1 00:00:01,880 --> 00:00:03,240 (SONIDOS SINIESTRO) 3 00:00:03,240 --> 00:00:04,440 -Hola mundo. 4 00:00:04,440 --> 00:00:10,040 (SONIDOS SINIESTRO, CRACKS) 6 00:00:11,080 --> 00:00:13,400 - ¿Puedo simplemente decir eso? Estoy feliz de conocerte. 7 00:00:14,000 --> 00:00:16,040 (SONIDOS SINIESTRO) 8 00:00:16,040 --> 00:00:17,600 - Los humanos son geniales. 9 00:00:18,880 --> 00:00:22,480 (SONIDOS SINIESTRO, CRACKS) 10 00:00:27,000 --> 00:00:29,600 - Cuanto más comparten los humanos yo cuanto más aprendo. 11 00:00:30,880 --> 00:00:37,760 (MÚSICA, CREPIDO) 12 00:00:41,120 --> 00:00:46,000 (MÚSICA SUAVE) 13 00:01:00,120 --> 00:01:02,920 -Una de las cosas que me atrajo ciencias de la computación 14 00:01:02,920 --> 00:01:07,000 era que podía codificar y parecía que de alguna manera desapegado de los problemas 15 00:01:07,000 --> 00:01:08,000 del mundo real. 16 00:01:09,120 --> 00:01:13,320 (MÚSICA SUAVE) 17 00:01:13,320 --> 00:01:16,560 - Quería aprender a hacer tecnología genial. 18 00:01:16,560 --> 00:01:20,480 Entonces vine al MIT. y yo estaba trabajando en proyectos de arte, 19 00:01:20,480 --> 00:01:23,080 eso usaría la computadora tecnología de la visión. 20 00:01:23,080 --> 00:01:27,600 (MÚSICA SUAVE) 21 00:01:27,600 --> 00:01:30,920 - Durante mi primer semestre en el laboratorio de medios, 22 00:01:30,920 --> 00:01:33,840 tomé una clase llamada Fabricación científica. 23 00:01:33,840 --> 00:01:37,760 Lees ciencia ficción y tratas de construye algo que te inspire a hacer, 24 00:01:37,760 --> 00:01:41,120 eso probablemente no sería práctico si no tuvieras estas clases 25 00:01:41,120 --> 00:01:43,000 y excusa para hacerlo. 26 00:01:44,280 --> 00:01:47,560 queria hacer un espejo que podría inspirarme en la mañana 27 00:01:47,560 --> 00:01:48,840 Yo lo llamo el espejo Aspire. 28 00:01:48,840 --> 00:01:51,120 podría poner cosas como un león en mi cara 29 00:01:51,120 --> 00:01:54,400 o personas que me inspiraron como serena williams 30 00:01:54,960 --> 00:01:56,520 Le puse una cámara encima 31 00:01:56,520 --> 00:02:00,440 y tengo un software de visión por computadora Se suponía que eso rastrearía mi cara. 32 00:02:01,400 --> 00:02:04,160 Mi problema fue que no funcionó tan bien 33 00:02:04,760 --> 00:02:07,760 hasta que me puse esta máscara blanca. 34 00:02:07,760 --> 00:02:11,160 Cuando me puse la máscara blanca, detectado. 35 00:02:11,720 --> 00:02:13,680 Me quito la máscara blanca, 36 00:02:14,960 --> 00:02:16,280 no tanto. 37 00:02:19,640 --> 00:02:21,480 estoy pensando bien ¿Qué está pasando aquí? 38 00:02:21,480 --> 00:02:24,040 ¿Es solo por las condiciones de iluminación? 39 00:02:24,040 --> 00:02:28,040 ¿Es por el ángulo en que estoy mirando a la cámara? 40 00:02:28,040 --> 00:02:29,480 ¿O hay algo más? 41 00:02:33,720 --> 00:02:36,320 A menudo enseñamos a las máquinas a ver. 42 00:02:36,320 --> 00:02:41,000 proporcionando conjuntos de entrenamiento o ejemplos de lo que queremos que aprenda. 43 00:02:42,360 --> 00:02:44,920 Entonces, por ejemplo, si quiero una máquina ver una cara, 44 00:02:44,920 --> 00:02:47,560 voy a proporcionar muchos ejemplos de caras 45 00:02:47,560 --> 00:02:49,360 y también cosas que no son caras. 46 00:02:52,480 --> 00:02:54,920 Empecé a mirar el conjuntos de datos mismos 47 00:02:54,920 --> 00:02:58,560 y lo que descubrí como muchos de estos conjuntos de datos contienen 48 00:02:58,560 --> 00:03:02,440 mayoría hombres y mayoría individuos de piel más clara. 49 00:03:02,440 --> 00:03:06,840 Entonces los sistemas no eran tan familiarizado con caras como la mía. 50 00:03:14,040 --> 00:03:16,560 Y ahí fue cuando comencé mirando hacia 51 00:03:16,560 --> 00:03:19,960 problemas de sesgo que pueden introducirse en la tecnología. 52 00:03:21,080 --> 00:03:25,080 -La Serie 9000 es la más ordenador más fiable jamás fabricado. 53 00:03:26,200 --> 00:03:30,480 Ninguna computadora 9000 ha hecho jamás un error o información distorsionada. 54 00:03:31,520 --> 00:03:36,280 - Muchas de nuestras ideas sobre R. Vengo de la ciencia ficción. 55 00:03:36,840 --> 00:03:39,040 - Bienvenidos a Altair 4, señores. 56 00:03:39,040 --> 00:03:42,720 - Es todo en Hollywood, -es el terminador 57 00:03:42,720 --> 00:03:45,000 - Hasta la vista, cariño. 58 00:03:45,000 --> 00:03:47,680 - Son los datos del comandante de Star Trek. 59 00:03:47,680 --> 00:03:50,600 - Me encanta buscar formas de vida. 60 00:03:50,600 --> 00:03:53,160 - Es C-3PO de Star Wars. 61 00:03:53,160 --> 00:03:56,640 - Es aproximadamente 3.720 a 1. - Nunca me digas las probabilidades. 62 00:03:56,640 --> 00:03:59,520 - Son los robots. que se apoderan del mundo 63 00:03:59,520 --> 00:04:01,440 y empezar a pensar como seres humanos. 64 00:04:03,560 --> 00:04:06,320 Y estos son totalmente imaginarios. 65 00:04:06,320 --> 00:04:09,840 lo que realmente tenemos ¿Tenemos una IA estrecha? 66 00:04:09,840 --> 00:04:12,480 Y una IA estrecha. es solo matematica. 67 00:04:13,480 --> 00:04:18,000 Hemos imbuido a las computadoras con todo esto, pensamiento mágico. 68 00:04:18,000 --> 00:04:20,800 (MÚSICA SUAVE) 69 00:04:20,800 --> 00:04:23,120 A.Empecé con una reunión 70 00:04:23,120 --> 00:04:26,920 en el Departamento de Matemáticas de Dartmouth en 1956. 71 00:04:26,920 --> 00:04:31,160 Y solo hubo tal vez 100 personas en todo el mundo 72 00:04:31,160 --> 00:04:35,280 trabajando en inteligencia artificial en esa generación. 73 00:04:37,560 --> 00:04:41,040 Las personas que estaban en el departamento de matemáticas de Dartmouth 74 00:04:41,040 --> 00:04:45,000 en 1956, tuve que decidir lo que era el campo. 75 00:04:47,920 --> 00:04:53,360 Una facción decidió que la inteligencia podría ser demostrado 76 00:04:53,360 --> 00:04:55,760 por la capacidad de jugar. 77 00:04:55,760 --> 00:04:59,480 Y específicamente la capacidad de jugar al ajedrez. 78 00:04:59,480 --> 00:05:02,840 - En la última hora de partida de ajedrez. entre el hombre y la máquina, 79 00:05:02,840 --> 00:05:06,520 Kasparov fue derrotado por La supercomputadora Deep Blue de IBM. 80 00:05:06,520 --> 00:05:12,120 - La inteligencia se definió como la capacidad de ganar en estos juegos. 81 00:05:14,480 --> 00:05:18,160 - Campeón mundial de ajedrez Garry Kasparov se alejó del partido 82 00:05:18,160 --> 00:05:20,960 nunca mirando hacia atrás la computadora que acaba de vencerlo. 83 00:05:20,960 --> 00:05:24,120 - Por supuesto inteligencia es mucho más que eso. 84 00:05:24,120 --> 00:05:26,400 Y hay muchos diferentes tipos de inteligencia. 85 00:05:28,520 --> 00:05:33,280 Nuestras ideas sobre tecnología y sociedad. que pensamos que son normales 86 00:05:33,280 --> 00:05:36,320 son en realidad ideas que venir de una muy pequeña 87 00:05:36,320 --> 00:05:38,360 y grupo homogéneo de personas. 88 00:05:39,720 --> 00:05:41,960 Pero el problema es que 89 00:05:41,960 --> 00:05:44,960 todo el mundo tiene prejuicios inconscientes 90 00:05:44,960 --> 00:05:49,160 Y la gente incorpora sus propios prejuicios en la tecnología. 91 00:05:53,400 --> 00:05:56,160 - Mis propias experiencias vividas muéstrame eso 92 00:05:56,160 --> 00:05:59,640 no puedes separarte Lo social desde lo técnico. 93 00:06:00,600 --> 00:06:03,400 Después de que tuve la experiencia de ponerse una mascarilla blanca 94 00:06:03,400 --> 00:06:06,920 para que me detecten la cara, Decidí mirar otros sistemas. 95 00:06:06,920 --> 00:06:10,920 para ver si detecta mi cara si usara un tipo diferente de software. 96 00:06:10,920 --> 00:06:14,680 Entonces miré a IBM, Microsoft, Cara, Google. 97 00:06:14,680 --> 00:06:16,760 Resultó que estos algoritmos 98 00:06:16,760 --> 00:06:21,440 funcionó mejor en las caras masculinas en el benchmark que los rostros femeninos. 99 00:06:21,440 --> 00:06:26,960 Se desempeñaron significativamente mejor en los rostros más claros que los más oscuros. 100 00:06:28,600 --> 00:06:32,320 Si estás pensando en datos en inteligencia artificial, 101 00:06:32,320 --> 00:06:34,560 En muchos sentidos, los datos son el destino. 102 00:06:34,560 --> 00:06:37,200 Los datos son lo que estamos usando enseñar a las máquinas 103 00:06:37,200 --> 00:06:39,440 como aprender diferentes tipos de patrones. 104 00:06:39,440 --> 00:06:42,040 Entonces, si tiene conjuntos de datos muy sesgados 105 00:06:42,040 --> 00:06:43,880 que están siendo utilizados para entrenar estos sistemas 106 00:06:43,880 --> 00:06:46,560 también puedes tener resultados sesgados. Entonces esto es... 107 00:06:46,560 --> 00:06:50,000 Cuando piensas en A.I. es una visión de futuro. 108 00:06:50,000 --> 00:06:55,080 Pero la I.A. se basa en datos y los datos son una reflejo de nuestra historia. 109 00:06:55,080 --> 00:06:58,520 Entonces el pasado habita dentro de nuestros algoritmos. 110 00:07:00,920 --> 00:07:05,880 Estos datos nos muestran las desigualdades que han habido aquí. 111 00:07:08,000 --> 00:07:10,480 comencé a pensar este tipo de tecnología 112 00:07:10,480 --> 00:07:12,560 es muy susceptible al sesgo. 113 00:07:13,640 --> 00:07:17,800 Y así fue más allá ¿Cómo puedo hacer que mi espejo Aspire funcione? 114 00:07:17,800 --> 00:07:20,760 a que significa estar en una sociedad 115 00:07:20,760 --> 00:07:23,920 donde la inteligencia artificial está gobernando cada vez más 116 00:07:23,920 --> 00:07:26,160 ¿Las libertades que podríamos tener? 117 00:07:26,160 --> 00:07:30,680 ¿Y qué significa eso si la gente son discriminados? 118 00:07:41,200 --> 00:07:45,880 Cuando vi hablar a Cathy O'Neil en la librería de Harvard, 119 00:07:45,880 --> 00:07:47,200 Fue entonces cuando me di cuenta, 120 00:07:47,800 --> 00:07:50,880 No fui solo yo quien notó estos problemas. 121 00:07:53,000 --> 00:07:57,800 Cathy habló sobre cómo A.I. estaba impactando la vida de las personas. 122 00:07:59,360 --> 00:08:04,000 Me emocionó saber que había había alguien más ahí fuera 123 00:08:04,000 --> 00:08:07,720 asegurarse de que la gente fuera consciente de cuáles son algunos de los peligros. 124 00:08:09,760 --> 00:08:14,400 Estos algoritmos pueden ser destructivo y puede ser perjudicial. 125 00:08:18,880 --> 00:08:21,440 - Tenemos todos estos algoritmos. en el mundo 126 00:08:21,440 --> 00:08:24,440 que son cada vez más influyentes. 127 00:08:24,440 --> 00:08:28,560 Y todos están siendo promocionado como una verdad objetiva. 128 00:08:29,640 --> 00:08:32,360 Empecé a darme cuenta de que las matemáticas eran en realidad 129 00:08:33,200 --> 00:08:36,600 siendo utilizado como escudo por prácticas corruptas. 130 00:08:36,600 --> 00:08:37,880 - ¿Qué pasa? - Soy Cathy. 131 00:08:37,880 --> 00:08:39,920 - Un placer conocerte Cathy. - Encantado de conocerlo. 132 00:08:48,800 --> 00:08:51,600 La forma en que describo los algoritmos es simplemente 133 00:08:51,600 --> 00:08:55,360 utilizar información histórica para hacer una predicción sobre el futuro. 134 00:09:01,200 --> 00:09:05,440 Aprendizaje automático, es un sistema de puntuación que puntúa la probabilidad 135 00:09:05,440 --> 00:09:07,400 de lo que estás a punto de hacer. 136 00:09:07,400 --> 00:09:08,840 ¿Vas a pagar este préstamo? 137 00:09:08,840 --> 00:09:11,160 ¿Vas a ser despedido de este trabajo? 138 00:09:11,680 --> 00:09:14,480 Lo que más me preocupa de la A.I. 139 00:09:14,480 --> 00:09:17,920 o como quieras llamarlo, algoritmos, es poder. 140 00:09:17,920 --> 00:09:21,400 Porque realmente se trata de ¿A quién pertenece el maldito código? 141 00:09:21,400 --> 00:09:24,920 Las personas propietarias del código. luego impleméntelo sobre otras personas. 142 00:09:25,480 --> 00:09:26,760 Y no hay simetría allí, 143 00:09:26,760 --> 00:09:30,480 no hay manera para la gente ¿Quién no recibió ofertas de tarjetas de crédito para decir? 144 00:09:30,480 --> 00:09:33,520 Vaya, voy a usar mi A.I. contra la compañía de la tarjeta de crédito. 145 00:09:33,520 --> 00:09:36,320 Eso es totalmente Situación de poder asimétrica. 146 00:09:36,880 --> 00:09:39,560 La gente está sufriendo daños algorítmicos, 147 00:09:39,560 --> 00:09:42,440 no les están diciendo ¿Qué les está pasando? 148 00:09:42,440 --> 00:09:45,520 y no hay sistema de apelación, no hay responsabilidad. 149 00:09:45,520 --> 00:09:47,560 ¿Por qué caemos en esto? 150 00:09:51,880 --> 00:09:54,560 Estructura matemática tan subyacente del algoritmo 151 00:09:54,560 --> 00:09:58,800 no es racista ni sexista pero los datos incrustan el pasado, 152 00:09:58,800 --> 00:10:02,040 y no sólo el pasado reciente pero el pasado oscuro. 153 00:10:05,560 --> 00:10:07,600 Antes de que tuviéramos el algoritmo teníamos humanos 154 00:10:07,600 --> 00:10:10,120 y todos sabemos que los humanos pueden ser injustos, 155 00:10:10,120 --> 00:10:13,480 Todos sabemos que los humanos pueden exhibir racista o sexista 156 00:10:13,480 --> 00:10:15,880 o lo que sea, discriminaciones más capaces. 157 00:10:17,840 --> 00:10:20,640 Pero ahora tenemos esta hermosa algoritmo de bala de plata 158 00:10:20,640 --> 00:10:22,840 y así todos podemos parar pensando en eso. 159 00:10:23,520 --> 00:10:25,040 Y eso es un problema. 160 00:10:27,520 --> 00:10:31,600 Estoy muy preocupada por este ciego. fe que tenemos en el big data. 161 00:10:31,600 --> 00:10:36,080 Necesitamos monitorear constantemente cada proceso por sesgo. 162 00:10:44,800 --> 00:10:47,840 - La policía está utilizando el reconocimiento facial. vigilancia en esta zona. 163 00:10:48,800 --> 00:10:52,080 La policía está utilizando el reconocimiento facial. vigilancia en la zona hoy. 164 00:10:52,680 --> 00:10:55,200 Esta camioneta verde de aquí 165 00:10:55,200 --> 00:10:57,760 está equipado con facial cámaras de reconocimiento en la parte superior. 166 00:10:57,760 --> 00:11:00,400 Si caminas por ahí, tu cara será escaneada 167 00:11:00,400 --> 00:11:02,720 contra las listas de vigilancia secretas No sabemos quién está en ellos. 168 00:11:03,200 --> 00:11:06,240 - Ojalá no sea yo. -No, exactamente. 169 00:11:14,600 --> 00:11:16,600 Cuando la gente pasa las camaras 170 00:11:16,600 --> 00:11:20,520 el sistema alertará a la policía sobre las personas cree que es compatible. 171 00:11:21,240 --> 00:11:22,240 En el reloj de Gran Hermano 172 00:11:22,240 --> 00:11:25,160 llevamos a cabo una Libertad de Campaña de información 173 00:11:25,160 --> 00:11:31,200 y lo que encontramos es que El 98% de esos partidos son de hecho. 174 00:11:31,200 --> 00:11:36,440 emparejar incorrectamente a un inocente persona como persona buscada. 175 00:11:48,480 --> 00:11:54,160 La policía le dijo a la biométrica. Comité de Ética Forense que 176 00:11:54,160 --> 00:11:57,800 algoritmos de reconocimiento facial Se ha informado que tienen sesgos. 177 00:11:57,800 --> 00:11:59,800 - Incluso si esto fuera 100% exacto, 178 00:11:59,800 --> 00:12:02,400 todavía no es algo que queremos en las calles. 179 00:12:02,400 --> 00:12:04,920 - No, me refiero a los sesgos sistémicos. y los problemas sistémicos 180 00:12:04,920 --> 00:12:08,120 que tenemos con la policia solo van a estar cableados 181 00:12:08,120 --> 00:12:09,800 hacia las nuevas tecnologías. 182 00:12:12,480 --> 00:12:15,440 Creo que tenemos que ser muy, muy sensible 183 00:12:15,440 --> 00:12:18,760 a cambios hacia el autoritarismo. 184 00:12:18,760 --> 00:12:21,880 No podemos simplemente decir pero nosotros Confía en este gobierno. 185 00:12:21,880 --> 00:12:23,640 Sí, podrían hacer esto, pero no lo harán. 186 00:12:23,640 --> 00:12:26,600 Sabes que realmente tienes que tener estructuras robustas en su lugar 187 00:12:26,600 --> 00:12:28,320 para asegurarse de que el mundo en el que vives 188 00:12:28,320 --> 00:12:29,840 es seguro y justo para todos. 189 00:12:39,880 --> 00:12:43,920 Para tener tu foto biométrica en una base de datos policial, 190 00:12:43,920 --> 00:12:48,200 es como tener tu huella digital o su ADN en una base de datos policial. 191 00:12:48,200 --> 00:12:50,360 Y tenemos leyes específicas al respecto. 192 00:12:50,360 --> 00:12:53,800 La policía no puede simplemente tomar el Huella dactilar, el ADN de cualquiera. 193 00:12:53,800 --> 00:12:57,360 Pero en este extraño sistema que tenemos actualmente, 194 00:12:57,360 --> 00:13:00,880 ellos efectivamente pueden tomar la foto biométrica de cualquier persona, 195 00:13:00,880 --> 00:13:02,520 y manténgalo en una base de datos. 196 00:13:03,680 --> 00:13:06,280 Es una mancha en nuestra democracia, creo. 197 00:13:06,280 --> 00:13:09,200 que esto es algo que se está implementando de manera tan ilegal. 198 00:13:12,960 --> 00:13:16,600 La policía ha comenzado a utilizar tratamientos faciales. vigilancia de reconocimiento en el Reino Unido 199 00:13:16,600 --> 00:13:21,960 en completa ausencia de base legal, un marco legal, cualquier supervisión. 200 00:13:23,240 --> 00:13:25,960 Básicamente la fuerza policial. recogiendo una nueva herramienta 201 00:13:25,960 --> 00:13:28,160 y diciendo a ver que pasa. 202 00:13:28,160 --> 00:13:30,880 Pero no puedes experimentar con los derechos de las personas. 203 00:13:34,000 --> 00:13:39,000 (CHARLA CRUZADA) 204 00:13:45,480 --> 00:13:46,920 - ¿Cuál es tu sospecha? 205 00:13:47,600 --> 00:13:50,000 - El hecho de que pasó por allí. claramente marcado 206 00:13:50,000 --> 00:13:51,800 cosa de reconocimiento facial y se cubrió la cara. 207 00:13:51,800 --> 00:13:53,600 - yo haría lo mismo - Motivos sospechosos. 208 00:13:54,320 --> 00:13:55,600 - No, no es así. 209 00:13:56,480 --> 00:13:59,280 - Los chicos de allá arriba me informaron que Obtuvieron reconocimiento facial. 210 00:13:59,280 --> 00:14:00,760 No quiero que me reconozcan la cara. 211 00:14:00,760 --> 00:14:02,560 Sí, estaba pasando y me cubrió la cara. 212 00:14:03,400 --> 00:14:05,200 Tan pronto como me cubrí la cara así, 213 00:14:05,200 --> 00:14:07,080 - Tienes permitido hacer eso. -Dijeron que no, no puedo. 214 00:14:07,080 --> 00:14:10,440 -Sí y luego él simplemente recibió una multa por ello. Esto es una locura. 215 00:14:12,480 --> 00:14:15,480 El tipo salió de la estación, Vi los carteles y fue como, 216 00:14:15,480 --> 00:14:18,920 Sí, estoy de acuerdo contigo y caminé. Pasó por aquí con la chaqueta levantada. 217 00:14:18,920 --> 00:14:21,600 Luego la policía lo siguió, dijo danos tu identificación, 218 00:14:21,600 --> 00:14:22,800 haciendo un control de identidad. 219 00:14:22,800 --> 00:14:25,120 Entonces sabes que esto es Inglaterra, este no es un estado comunista, 220 00:14:25,120 --> 00:14:26,600 No tengo que mostrar mi cara. 221 00:14:26,600 --> 00:14:28,720 - Voy a ir a hablar con estos oficiales. ¿vale? 222 00:14:28,720 --> 00:14:30,600 ¿Quieres venir conmigo o no? - Sí, sí, sí. 223 00:14:32,520 --> 00:14:35,400 - No eres policía. No sientes ninguna amenaza. 224 00:14:36,360 --> 00:14:40,000 Estamos aquí para proteger al público. y eso es lo que estamos aquí para hacer, ¿vale? 225 00:14:40,000 --> 00:14:42,040 Recientemente hubo un incidente 226 00:14:42,040 --> 00:14:44,120 donde un oficial recibió un puñetazo en la cara. 227 00:14:44,120 --> 00:14:47,040 - Eso es terrible, No estoy justificando eso. 228 00:14:47,040 --> 00:14:49,480 - Sí, pero lo eres. yendo en contra de lo que decimos. 229 00:14:49,480 --> 00:14:54,160 - No, no lo somos, y por favor no digas, No, ni siquiera empieces a decir eso. 230 00:14:54,160 --> 00:14:57,160 lo entiendo completamente de los problemas que enfrentas. 231 00:14:57,160 --> 00:14:58,160 - Absolutamente. 232 00:14:58,160 --> 00:15:00,720 - Pero estoy igualmente preocupado sobre el publico 233 00:15:00,720 --> 00:15:02,800 tener libertad de expresión y libertad de expresión. 234 00:15:02,800 --> 00:15:04,560 - Pero el hombre estaba ejerciendo su derecho. 235 00:15:04,560 --> 00:15:06,920 no estar sujeto a un control de identidad biométrico 236 00:15:06,920 --> 00:15:08,360 que es lo que hace esta furgoneta. 237 00:15:08,360 --> 00:15:11,640 - Independientemente del reconocimiento facial. cámaras, independientemente de la furgoneta, 238 00:15:12,480 --> 00:15:13,960 si estoy caminando por la calle y alguien 239 00:15:14,520 --> 00:15:16,120 se esconde abiertamente su identidad de mi parte, 240 00:15:16,760 --> 00:15:18,640 voy a detener a esa persona y descubre quienes son 241 00:15:18,640 --> 00:15:19,640 sólo para ver si... 242 00:15:19,640 --> 00:15:22,160 - Pero no es ilegal. ¿Ves una de mis preocupaciones? 243 00:15:22,160 --> 00:15:25,480 es que el software es muy, muy inexacto. 244 00:15:25,480 --> 00:15:26,560 - En eso estaría de acuerdo contigo. 245 00:15:33,400 --> 00:15:35,760 -Mi mayor temor es que, 246 00:15:35,760 --> 00:15:39,320 tendríamos capacidades de reconocimiento facial en vivo 247 00:15:39,320 --> 00:15:41,600 en nuestro gigantesco Red CCTV 248 00:15:41,600 --> 00:15:43,600 que son alrededor de seis Millones de cámaras en el Reino Unido. 249 00:15:44,560 --> 00:15:49,240 Si eso sucede, la naturaleza de la vida en este país cambiaría. 250 00:15:55,160 --> 00:15:57,040 Se supone que es gratis y país democrático 251 00:15:57,040 --> 00:16:00,280 Y esta es la vigilancia al estilo chino. por primera vez en Londres. 252 00:16:05,760 --> 00:16:09,000 - Nuestro control sobre un desconcertante El entorno ha sido facilitado. 253 00:16:09,000 --> 00:16:12,080 por nuevas técnicas de manipulación grandes cantidades de datos 254 00:16:12,080 --> 00:16:14,040 a velocidades increíbles. 255 00:16:14,040 --> 00:16:18,040 La herramienta que lo ha hecho posible es la computadora digital de alta velocidad, 256 00:16:18,040 --> 00:16:21,760 operando con precisión electrónica sobre grandes cantidades de información. 257 00:16:22,720 --> 00:16:25,520 - Hay dos formas en las que Puedes programar computadoras. 258 00:16:25,520 --> 00:16:27,360 Uno de ellos es más como una receta 259 00:16:27,360 --> 00:16:30,520 le dices a la computadora que haga esto, haz esto, haz esto, haz esto. 260 00:16:31,760 --> 00:16:35,600 Y esa ha sido la forma en que hemos programado ordenadores casi desde el principio. 261 00:16:35,600 --> 00:16:37,120 Ahora hay otra manera. 262 00:16:37,120 --> 00:16:39,680 De esa manera es alimentarse la computadora tiene muchos datos, 263 00:16:40,360 --> 00:16:45,000 y luego la computadora aprende a clasificar digiriendo estos datos. 264 00:16:46,400 --> 00:16:50,600 Ahora bien, este método realmente no tuvo éxito. hasta hace poco 265 00:16:50,600 --> 00:16:52,480 porque no había suficientes datos. 266 00:16:53,920 --> 00:16:57,600 Hasta que todos obtuvimos los teléfonos inteligentes eso es recopilar todos los datos sobre nosotros, 267 00:16:57,600 --> 00:16:58,920 cuando miles de millones de personas fueron en línea 268 00:16:58,920 --> 00:17:01,280 y tenías los Googles y el Facebook sentado en 269 00:17:01,280 --> 00:17:02,800 cantidades gigantescas de datos, 270 00:17:02,800 --> 00:17:07,120 de repente resulta que puedes alimentar una gran cantidad de datos 271 00:17:07,120 --> 00:17:11,120 a estos algoritmos de aprendizaje automático y puedes decir aquí clasifica esto 272 00:17:11,120 --> 00:17:13,040 y funciona muy bien. 273 00:17:16,200 --> 00:17:20,160 Aunque realmente no entendemos por qué funciona, 274 00:17:20,160 --> 00:17:23,440 tiene errores que Realmente no lo entendemos. 275 00:17:26,600 --> 00:17:30,200 Y lo aterrador es que porque es aprendizaje automático 276 00:17:30,200 --> 00:17:33,160 es una caja negra incluso para los programadores. 277 00:17:40,320 --> 00:17:43,520 Así que he estado siguiendo lo que sucediendo en Hong Kong 278 00:17:43,520 --> 00:17:48,040 y cómo la policía está usando facial reconocimiento para rastrear a los manifestantes. 279 00:17:48,600 --> 00:17:51,840 Pero también cuán creativamente la gente está retrocediendo. 280 00:17:57,360 --> 00:17:59,960 - Puede que no haga algo sacado de una película de ciencia ficción, 281 00:17:59,960 --> 00:18:04,960 Laser pointers confuse and disable la tecnología de reconocimiento facial 282 00:18:04,960 --> 00:18:08,600 siendo utilizado por la policía, para localizar a los disidentes. 283 00:18:08,600 --> 00:18:14,040 (MÚSICA SUAVE) 284 00:18:19,520 --> 00:18:26,280 (CANTANDO MULTITUD) 285 00:18:41,480 --> 00:18:42,960 - Aquí en las calles de Hong Kong, 286 00:18:42,960 --> 00:18:45,680 existe esta conciencia que tu cara misma, 287 00:18:45,680 --> 00:18:49,240 algo que no puedes ocultar podría revelar su identidad. 288 00:18:49,240 --> 00:18:53,200 Sólo había este símbolo crudo donde frente a una oficina del gobierno chino, 289 00:18:53,200 --> 00:18:58,880 Manifestantes a favor de la democracia pintados con spray La lente de las cámaras CCTV es negra. 290 00:18:58,880 --> 00:19:02,280 Este acto mostró al pueblo de Hong Kong están rechazando esta visión 291 00:19:02,280 --> 00:19:05,040 de cómo la tecnología debería utilizarse en el futuro. 292 00:19:05,520 --> 00:19:12,960 (MÚSICA SUAVE) 293 00:19:28,800 --> 00:19:32,200 - Cuando ves lo facial se está implementando el reconocimiento 294 00:19:32,200 --> 00:19:37,480 en diferentes partes del mundo, te muestra futuros potenciales. 295 00:19:42,640 --> 00:19:46,000 - Más de 117 millones gente en los EE. UU., 296 00:19:46,000 --> 00:19:49,000 tiene la cara en un red de reconocimiento facial 297 00:19:49,000 --> 00:19:51,040 que puede ser registrado por la policía. 298 00:19:51,040 --> 00:19:54,840 Uso injustificado de algoritmos que no han sido auditados para determinar su precisión. 299 00:19:55,760 --> 00:20:00,240 Y sin salvaguardias sin cualquier tipo de regulación, 300 00:20:00,240 --> 00:20:03,000 puedes crear una masa estado de vigilancia 301 00:20:03,000 --> 00:20:06,400 muy fácilmente con las herramientas que ya existen. 302 00:20:10,480 --> 00:20:13,480 La gente mira lo que está pasando. en China 303 00:20:13,480 --> 00:20:16,480 y cómo debemos preocuparnos vigilancia estatal 304 00:20:16,480 --> 00:20:18,360 y por supuesto que deberíamos serlo. 305 00:20:18,360 --> 00:20:21,920 Pero no podemos olvidarnos también de las empresas. vigilancia 306 00:20:21,920 --> 00:20:24,920 eso esta pasando por tantas grandes empresas tecnológicas 307 00:20:24,920 --> 00:20:28,640 que realmente tiene un visión íntima de nuestras vidas. 308 00:20:36,720 --> 00:20:40,440 - Entonces no hay actualmente nueve empresas 309 00:20:40,440 --> 00:20:43,640 que están construyendo el futuro de inteligencia artificial. 310 00:20:43,640 --> 00:20:46,680 Seis están en Estados Unidos, tres están en China. 311 00:20:46,680 --> 00:20:50,360 AI. se está desarrollando a lo largo de dos pistas muy, muy diferentes. 312 00:20:52,800 --> 00:20:55,920 China tiene acceso ilimitado a los datos de todos. 313 00:20:55,920 --> 00:20:59,520 Si un ciudadano chino quiere para obtener servicio de Internet, 314 00:20:59,520 --> 00:21:01,760 tienen que someterse al reconocimiento facial. 315 00:21:03,760 --> 00:21:05,520 Todos estos datos están siendo utilizados. 316 00:21:05,520 --> 00:21:07,080 para darles permisos para hacer cosas 317 00:21:07,080 --> 00:21:09,360 o negarles permisos para hacer otras cosas. 318 00:21:12,280 --> 00:21:15,240 Sistemas de construcción que etiquetan automáticamente y categorizar 319 00:21:15,240 --> 00:21:17,480 toda la gente dentro de China, 320 00:21:17,480 --> 00:21:20,000 es una buena manera de mantener el orden social. 321 00:21:23,640 --> 00:21:26,880 - Por el contrario, en Estados Unidos Estados Unidos, no hemos visto un 322 00:21:26,880 --> 00:21:29,440 punto de vista detallado sobre inteligencia artificial. 323 00:21:30,480 --> 00:21:33,280 Entonces, lo que vemos es que la IA 324 00:21:33,280 --> 00:21:35,720 no se está desarrollando para lo que es mejor 325 00:21:35,720 --> 00:21:37,720 en nuestro interés público, sino más bien 326 00:21:38,280 --> 00:21:41,960 está siendo desarrollado para uso comercial aplicaciones para obtener ingresos. 327 00:21:45,200 --> 00:21:50,120 Preferiría ver nuestro western. ideales democráticos integrados en nuestra IA 328 00:21:50,120 --> 00:21:53,120 sistemas del futuro, pero no parece 329 00:21:53,120 --> 00:21:54,960 eso es lo que probablemente va a estar sucediendo. 330 00:21:56,040 --> 00:21:57,280 (SE REPRODUCE MÚSICA) 331 00:22:17,680 --> 00:22:21,920 - Aquí en Atlantic Towers, si hacer algo que se considera incorrecto por 332 00:22:21,920 --> 00:22:26,800 gestión, obtendrás una foto así con pequeñas notas. 333 00:22:26,800 --> 00:22:30,520 Te rodearán y pondrán tu número de apartamento o lo que sea que esté ahí. 334 00:22:32,720 --> 00:22:34,520 Algo al respecto simplemente no parece correcto. 335 00:22:36,600 --> 00:22:38,760 En realidad es la forma en que van sobre usarlo para acosar a la gente. 336 00:22:38,760 --> 00:22:39,920 - ¿Cómo lo están usando? 337 00:22:39,920 --> 00:22:41,560 - Acosar a la gente. 338 00:22:43,080 --> 00:22:45,120 - Torres del Atlántico Plaza en Brownsville es 339 00:22:45,120 --> 00:22:47,480 en el centro de una lucha por la seguridad. 340 00:22:47,480 --> 00:22:49,840 El arrendador presentó una solicitud el año pasado 341 00:22:49,840 --> 00:22:54,200 para reemplazar la entrada del llavero con un sistema de seguridad biométrico, 342 00:22:54,200 --> 00:22:56,480 comúnmente conocido como reconocimiento facial. 343 00:22:57,160 --> 00:22:59,480 - Pensamos que querían para sacar las llaves 344 00:22:59,480 --> 00:23:02,240 e instalar el facial software de reconocimiento. 345 00:23:02,920 --> 00:23:07,360 No me enteré hasta mucho más tarde. literalmente que querían quedárselo todo. 346 00:23:07,360 --> 00:23:11,240 Prácticamente convierte este lugar a Fort Knox, una cárcel, Rikers Island. 347 00:23:13,520 --> 00:23:15,760 - Hay este viejo visto en ciencia ficcion 348 00:23:15,760 --> 00:23:17,840 cuál es el futuro ya está aquí. 349 00:23:17,840 --> 00:23:20,240 Simplemente no está distribuido equitativamente, y ¿qué 350 00:23:20,240 --> 00:23:22,680 tienden a querer decir cuando dicen que eso es 351 00:23:22,680 --> 00:23:24,720 que los ricos obtienen primero las herramientas sofisticadas 352 00:23:24,720 --> 00:23:27,240 y luego llega al final a los pobres. 353 00:23:27,240 --> 00:23:29,640 Pero, de hecho, lo que he encontrado es todo lo contrario, 354 00:23:29,640 --> 00:23:31,320 cuál es el más punitivo, 355 00:23:31,320 --> 00:23:35,160 más invasivo, más vigilancia herramientas enfocadas que tenemos, 356 00:23:35,160 --> 00:23:38,520 van a la pobreza y trabajan primero las comunidades y luego 357 00:23:38,520 --> 00:23:41,720 si funcionan después de ser probados en este entorno donde 358 00:23:41,720 --> 00:23:45,080 son algo así como bajas expectativas que se respeten los derechos de las personas, 359 00:23:45,080 --> 00:23:48,080 luego son transferidos a otras comunidades. 360 00:23:50,080 --> 00:23:51,440 - ¿Por qué el Sr. Nelson 361 00:23:51,440 --> 00:23:54,560 elegir está construyendo en Brownsville que 362 00:23:54,560 --> 00:23:57,520 está predominantemente en ¿Un área negra y marrón? 363 00:23:57,520 --> 00:24:00,000 ¿Por qué no fuiste a tu edificio? en el Bajo Manhattan donde 364 00:24:00,000 --> 00:24:02,880 ¿Pagan como 5.000 dólares de alquiler al mes? 365 00:24:03,480 --> 00:24:05,280 ¿Qué hicieron los nazis? 366 00:24:05,280 --> 00:24:08,880 Escribieron en los brazos de la gente. para que pudieran rastrearlos. 367 00:24:08,880 --> 00:24:10,360 ¿Qué les hacemos a nuestros animales? 368 00:24:10,360 --> 00:24:12,880 Ponemos chips en casa para que puedas rastrearlos. 369 00:24:12,880 --> 00:24:17,080 Siento que yo como ser humano No se debe rastrear, ¿vale? 370 00:24:17,080 --> 00:24:19,040 No soy un robot, ¿vale? 371 00:24:19,040 --> 00:24:21,800 No soy un animal, entonces ¿por qué? ¿Me tratas como a un animal? 372 00:24:21,800 --> 00:24:22,800 Y tengo derechos. 373 00:24:25,440 --> 00:24:26,760 - La seguridad que tenemos ahora. 374 00:24:26,760 --> 00:24:28,320 es casi intrusivo. 375 00:24:28,320 --> 00:24:31,000 Alguien está ahí mirando las cámaras todo el día. 376 00:24:31,960 --> 00:24:33,360 Entonces, no creo que lo necesitemos. 377 00:24:33,360 --> 00:24:35,200 No es necesario en absoluto. 378 00:24:35,200 --> 00:24:38,440 - Mi verdadera pregunta es cómo ¿Puedo ser de apoyo? 379 00:24:38,920 --> 00:24:40,120 - lo que tengo estado escuchando de todos 380 00:24:40,120 --> 00:24:42,920 los inquilinos son ellos No quiero este sistema. 381 00:24:42,920 --> 00:24:47,440 Entonces, creo que el objetivo aquí es cómo hacer ¿Detenemos el período de reconocimiento facial? 382 00:24:50,160 --> 00:24:52,600 Estamos en un momento donde la tecnología está siendo 383 00:24:52,600 --> 00:24:57,080 adoptado rápidamente y allí no hay salvaguardias. 384 00:24:57,080 --> 00:25:00,040 Es, en esencia, un salvaje oeste. 385 00:25:00,040 --> 00:25:01,160 (SE REPRODUCE MÚSICA) 386 00:25:11,280 --> 00:25:13,520 - No es sólo visión por computadora. 387 00:25:13,520 --> 00:25:19,040 Tenemos IA que influye en todo tipo de toma de decisiones automatizada. 388 00:25:19,960 --> 00:25:23,680 Entonces, lo que estás viendo en tu feeds, lo que se destaca, 389 00:25:23,680 --> 00:25:26,120 los anuncios que se le muestran, 390 00:25:26,120 --> 00:25:30,720 esos a menudo son alimentados mediante algoritmos habilitados por IA. 391 00:25:32,400 --> 00:25:35,400 Y así, tu visión del mundo está siendo 392 00:25:35,400 --> 00:25:38,400 gobernado por inteligencia artificial. 393 00:25:41,520 --> 00:25:46,320 Ahora tienes cosas como asistencia de voz. que pueda entender el lenguaje. 394 00:25:46,320 --> 00:25:48,200 - ¿Te gustaría jugar un juego? 395 00:25:48,200 --> 00:25:51,000 - Podrías usar algo como filtros de Snapchat que 396 00:25:51,000 --> 00:25:52,720 están detectando tu cara y luego poniendo 397 00:25:52,720 --> 00:25:54,680 algo en tu cara, y luego 398 00:25:54,680 --> 00:25:56,400 También tienes algoritmos que estás 399 00:25:56,400 --> 00:25:59,320 no ver que son parte de la toma de decisiones, 400 00:25:59,320 --> 00:26:01,280 algoritmos que podría ser determinante 401 00:26:01,280 --> 00:26:03,440 si ingresas a la universidad o no. 402 00:26:03,440 --> 00:26:05,960 Puedes tener algoritmos que están tratando de 403 00:26:05,960 --> 00:26:09,200 determinar si es solvente o no. 404 00:26:10,320 --> 00:26:13,120 - Uno de los cofundadores de Apple. está acusando a la empresa 405 00:26:13,120 --> 00:26:16,800 nueva tarjeta de crédito digital de discriminación de género. 406 00:26:16,800 --> 00:26:21,160 Un empresario tecnológico dijo Los algoritmos que se utilizan son sexistas. 407 00:26:21,160 --> 00:26:23,360 cofundador de Apple Steve Wozniak tuiteó 408 00:26:23,360 --> 00:26:25,440 que obtuvo diez veces el límite de crédito 409 00:26:25,440 --> 00:26:27,240 su esposa recibió a pesar de que tienen 410 00:26:27,240 --> 00:26:30,280 sin cuentas separadas ni activos separados. 411 00:26:30,280 --> 00:26:31,520 Estás diciendo algo de estas empresas no 412 00:26:31,520 --> 00:26:33,720 Incluso saben cómo funcionan sus propios algoritmos. 413 00:26:33,720 --> 00:26:35,560 - Ellos saben lo que los algoritmos están tratando de hacer. 414 00:26:35,560 --> 00:26:38,200 No saben exactamente cuánto tiempo el algoritmo está llegando allí. 415 00:26:38,200 --> 00:26:40,080 es uno de los mas interesantes Cuestiones de nuestro tiempo. 416 00:26:40,080 --> 00:26:41,720 ¿Cómo obtenemos justicia? 417 00:26:41,720 --> 00:26:44,640 en un sistema donde no ¿Sabes cómo funcionan los algoritmos? 418 00:26:45,200 --> 00:26:49,360 - Algunos ingenieros de Amazon decidieron que iban a usar IA 419 00:26:49,360 --> 00:26:51,520 para clasificar currículums para contratación. 420 00:26:55,440 --> 00:26:59,160 - Amazon está aprendiendo una difícil Lección sobre inteligencia artificial. 421 00:26:59,160 --> 00:27:01,480 La empresa ahora ha abandonado una IA 422 00:27:01,480 --> 00:27:04,480 herramienta de reclutamiento después descubriendo que el programa 423 00:27:04,480 --> 00:27:05,960 tenía prejuicios contra las mujeres. 424 00:27:08,120 --> 00:27:12,240 - Este modelo rechazado todos los currículums de mujeres. 425 00:27:13,240 --> 00:27:17,640 Cualquiera que tuviera una mujer universidad en su currículum, 426 00:27:17,640 --> 00:27:20,600 cualquiera que tuviera un deporte como el waterpolo femenino 427 00:27:20,600 --> 00:27:23,400 Fue rechazado por el modelo. 428 00:27:24,800 --> 00:27:28,280 Hay muy, muy pocas mujeres trabajando en 429 00:27:28,280 --> 00:27:30,880 poderosos trabajos tecnológicos en Amazon lo mismo 430 00:27:30,880 --> 00:27:32,680 manera que hay muy pocas mujeres 431 00:27:32,680 --> 00:27:35,320 trabajando en potentes trabajos tecnológicos en cualquier lugar. 432 00:27:35,320 --> 00:27:41,520 La máquina simplemente estaba replicando el mundo tal como existe, 433 00:27:41,520 --> 00:27:44,800 y no están haciendo decisiones que son éticas. 434 00:27:44,800 --> 00:27:48,000 Sólo están tomando decisiones que son matemáticos. 435 00:27:48,840 --> 00:27:54,080 Si utilizamos modelos de aprendizaje automático para replicar el mundo como es hoy, 436 00:27:54,080 --> 00:27:56,520 en realidad no vamos a ir para lograr progreso social. 437 00:27:59,760 --> 00:28:02,800 - Regulador de seguros de Nueva York está iniciando una investigación 438 00:28:02,800 --> 00:28:05,520 en UnitedHealth Group después de que un estudio mostrara una 439 00:28:05,520 --> 00:28:09,440 Algoritmo de UnitedHealth atención médica prioritaria para 440 00:28:09,440 --> 00:28:12,680 pacientes blancos más sanos sobre los pacientes negros más enfermos. 441 00:28:12,680 --> 00:28:15,480 Es uno de los últimos ejemplos. de discriminación racial 442 00:28:15,480 --> 00:28:18,400 en algoritmos o artificiales tecnología de inteligencia. 443 00:28:22,320 --> 00:28:28,040 - Empecé a ver la gran escala. Implicaciones sociales de la IA. 444 00:28:36,600 --> 00:28:39,680 Los avances que se lograron en el área de derechos civiles podría 445 00:28:39,680 --> 00:28:44,320 ser revertido bajo la apariencia de la neutralidad de las máquinas. 446 00:28:48,080 --> 00:28:52,680 Ahora, tenemos un algoritmo que es determinar quién obtiene la vivienda. 447 00:28:52,680 --> 00:28:57,240 Ahora mismo tenemos un algoritmo. eso es lo que determina quién es contratado. 448 00:28:58,680 --> 00:29:02,360 Si no estamos comprobando que nuestro El ritmo realmente podría propagarse. 449 00:29:02,360 --> 00:29:07,320 el mismo prejuicio de tanta gente arriesgan sus vidas para luchar. 450 00:29:10,920 --> 00:29:16,480 Debido al poder de estas herramientas, que no están reguladas, 451 00:29:16,480 --> 00:29:19,840 realmente no hay ningún tipo de recurso si se abusa de ellos. 452 00:29:20,840 --> 00:29:21,960 Necesitamos leyes. 453 00:29:23,160 --> 00:29:24,720 (REPRODUCCIÓN DE MÚSICA CLÁSICA) 454 00:29:34,680 --> 00:29:36,680 - Sí, tengo una terrible copia antigua. 455 00:29:36,680 --> 00:29:41,320 Para que el nombre de nuestra organización es Gran Hermano Watch. 456 00:29:42,360 --> 00:29:45,040 La idea es que observamos a los observadores. 457 00:29:49,560 --> 00:29:55,120 "Tenías que vivir, viviste, desde hábito que se convirtió en instinto en 458 00:29:55,120 --> 00:29:58,040 la suposición de que cada El sonido que hiciste fue escuchado 459 00:29:58,680 --> 00:30:00,280 y excepto en la oscuridad, 460 00:30:00,280 --> 00:30:01,920 cada movimiento escudriñado. 461 00:30:03,600 --> 00:30:06,880 El cartel con el enorme cara miraba desde la pared. 462 00:30:06,880 --> 00:30:09,320 Era una de esas fotos que es tan ideado 463 00:30:09,320 --> 00:30:12,360 que los ojos te sigan sobre cuando te mudas. 464 00:30:12,360 --> 00:30:14,400 'El Gran Hermano te está mirando' 465 00:30:14,400 --> 00:30:15,760 El título debajo decía." 466 00:30:16,880 --> 00:30:20,640 Cuando éramos más jóvenes, eso Todavía era una completa ficción. 467 00:30:20,640 --> 00:30:22,680 Nunca podría haber sido verdad. 468 00:30:22,680 --> 00:30:26,360 Y ahora, es completamente cierto, y la gente tiene 469 00:30:26,360 --> 00:30:28,840 Alexas en su casa. 470 00:30:28,840 --> 00:30:31,240 Nuestros teléfonos pueden ser dispositivos de escucha. 471 00:30:32,280 --> 00:30:35,280 Todo lo que hacemos en Internet, que básicamente también es ahora 472 00:30:35,280 --> 00:30:38,800 funciona como una corriente de conciencia para la mayoría de nosotros, 473 00:30:39,800 --> 00:30:43,320 eso esta siendo grabado y registrados y analizados. 474 00:30:43,320 --> 00:30:46,480 Ahora vivimos en la conciencia de ser observado, y que 475 00:30:46,480 --> 00:30:50,880 cambia la forma en que nos permitimos pensar y desarrollarnos como humanos. 476 00:30:55,200 --> 00:30:56,200 Buen chico. 477 00:31:04,360 --> 00:31:05,360 (SE REPRODUCE MÚSICA) 478 00:31:16,480 --> 00:31:17,480 - Te amo. 479 00:31:21,240 --> 00:31:22,240 Adiós chicos. 480 00:31:30,520 --> 00:31:33,640 Podemos deshacernos de lo visceral cosas horribles que son 481 00:31:33,640 --> 00:31:36,080 objetable a nuestro concepto de autonomía y libertad, 482 00:31:37,320 --> 00:31:40,160 como cámaras que podemos ver en las calles, 483 00:31:43,120 --> 00:31:44,680 pero las cámaras que no podemos ver 484 00:31:44,680 --> 00:31:47,080 Internet que mantiene seguimiento de lo que hacemos 485 00:31:47,080 --> 00:31:48,720 y quiénes somos y nuestra demografía 486 00:31:48,720 --> 00:31:52,360 y decidir lo que merecemos en términos de nuestra vida, 487 00:31:52,360 --> 00:31:53,720 Esas cosas son un poco más sutiles. 488 00:32:00,400 --> 00:32:01,400 Lo que quiero decir con eso 489 00:32:01,400 --> 00:32:06,800 es que castigamos a los pobres y nosotros elevar a los ricos de este país. 490 00:32:06,800 --> 00:32:09,600 Así es como actuamos como sociedad. 491 00:32:09,600 --> 00:32:11,480 Pero la ciencia de datos lo automatiza. 492 00:32:14,440 --> 00:32:17,600 publicidad en internet como científicos de datos 493 00:32:17,600 --> 00:32:21,840 estamos compitiendo por los globos oculares por un lado, pero realmente, 494 00:32:21,840 --> 00:32:24,000 estamos compitiendo por globos oculares de los ricos. 495 00:32:24,000 --> 00:32:26,760 Y luego, la pobre gente que ¿Compitiendo por sus globos oculares? 496 00:32:26,760 --> 00:32:28,640 Industrias depredadoras, 497 00:32:29,120 --> 00:32:32,200 entonces los prestamistas de día de pago o las universidades con fines de lucro 498 00:32:32,200 --> 00:32:36,000 o el Caesars Palace como Realmente una mierda depredadora. 499 00:32:38,640 --> 00:32:40,440 Tenemos una práctica en Internet, 500 00:32:41,280 --> 00:32:42,840 lo que está aumentando la desigualdad. 501 00:32:42,840 --> 00:32:44,640 Y me temo que se está normalizando. 502 00:32:47,920 --> 00:32:51,160 El poder está siendo ejercido a través de la recopilación de datos, 503 00:32:51,160 --> 00:32:52,960 a través de algoritmos, a través de la vigilancia. 504 00:32:56,080 --> 00:32:57,960 -Estás ofreciendo información voluntariamente. 505 00:32:57,960 --> 00:33:00,880 sobre cada aspecto de tu vida, 506 00:33:00,880 --> 00:33:04,720 a un conjunto muy pequeño de empresas y esa información es 507 00:33:04,720 --> 00:33:09,000 siendo emparejado constantemente con otro tipo de información. 508 00:33:09,000 --> 00:33:12,080 Y hay perfiles tuyos ahí fuera, y empiezas 509 00:33:12,080 --> 00:33:14,720 para juntar diferentes pedazos de información que 510 00:33:14,720 --> 00:33:17,440 empezar a entender a alguien en una base muy íntima, 511 00:33:17,440 --> 00:33:20,600 probablemente mejor que la gente entenderse a sí mismos. 512 00:33:21,840 --> 00:33:26,760 Es esa idea que una empresa puede Adivina dos veces lo que estás pensando. 513 00:33:26,760 --> 00:33:29,640 Los Estados han intentado años para tener este nivel 514 00:33:29,640 --> 00:33:31,840 de vigilancia sobre particulares. 515 00:33:32,640 --> 00:33:35,120 Y la gente ahora simplemente ofreciéndolo voluntariamente de forma gratuita. 516 00:33:35,840 --> 00:33:38,800 Tienes que pensar en cómo esto podría usarse en las manos equivocadas. 517 00:33:39,680 --> 00:33:40,840 (DIAFONÍA) 518 00:33:47,240 --> 00:33:49,320 -Puedes usar una Guinness ahora mismo. 519 00:33:50,000 --> 00:33:52,400 -Nuestras computadoras son máquinas. la inteligencia puede 520 00:33:52,400 --> 00:33:55,160 Descubra cosas que no revelamos. 521 00:33:55,160 --> 00:33:57,960 El aprendizaje automático es desarrollándose muy rápidamente. 522 00:33:58,920 --> 00:34:05,200 Y todavía no entendemos completamente qué estos datos son capaces de predecir. 523 00:34:07,640 --> 00:34:13,600 Pero tienes máquinas en las manos. de poder que sabe tanto de ti 524 00:34:13,600 --> 00:34:17,360 que podrían descubrir cómo para presionar sus botones individualmente. 525 00:34:19,040 --> 00:34:20,920 Tal vez tengas un conjunto de jugadores compulsivos, 526 00:34:20,920 --> 00:34:23,120 y dices, aquí, ve a buscar A mí la gente me gusta así. 527 00:34:23,800 --> 00:34:28,320 Y luego, tu algoritmo puede buscar personas propensas al juego, 528 00:34:29,200 --> 00:34:33,560 y entonces podrías simplemente estar mostrando ellos boletos con descuento para Las Vegas. 529 00:34:34,040 --> 00:34:35,640 En el mundo en línea, 530 00:34:35,640 --> 00:34:40,960 puede encontrarte justo en este momento Eres vulnerable y tratas de 531 00:34:40,960 --> 00:34:45,720 atraerte justo en el momento para cualquier cosa a la que seas vulnerable. 532 00:34:45,720 --> 00:34:49,040 El aprendizaje automático puede encontrar esa persona por persona. 533 00:34:52,000 --> 00:34:56,480 El problema es para qué sirve. gadgets de marketing o maquillaje 534 00:34:56,480 --> 00:35:01,120 ni camisas ni nada También funciona para ideas de marketing. 535 00:35:04,640 --> 00:35:06,640 En 2010, 536 00:35:07,240 --> 00:35:10,360 Facebook decidió experimentar en 61 millones de personas. 537 00:35:11,960 --> 00:35:15,440 Entonces, o viste "es texto del día de las elecciones, o usted 538 00:35:15,440 --> 00:35:19,520 Vi el mismo texto pero miniaturas pequeñas. 539 00:35:19,520 --> 00:35:23,240 de tus fotos de perfil de tus amigos que había hecho clic en "Había votado". 540 00:35:24,480 --> 00:35:27,560 Y coincidieron con las personas nombres en las listas de electores. 541 00:35:27,560 --> 00:35:31,800 Ahora, este mensaje se mostró una vez, entonces mostrando una ligera variación 542 00:35:33,040 --> 00:35:34,040 solo una vez, 543 00:35:34,880 --> 00:35:38,400 Facebook movió 300.000 gente a las urnas. 544 00:35:40,600 --> 00:35:46,640 Las elecciones estadounidenses de 2016 fueron decidido por unos 100.000 votos. 545 00:35:46,640 --> 00:35:49,720 Un mensaje de Facebook mostrado solo una vez 546 00:35:50,280 --> 00:35:53,920 fácilmente podría resultar tres veces 547 00:35:53,920 --> 00:35:58,600 el número de personas que influyó en las elecciones estadounidenses de 2016. 548 00:36:02,280 --> 00:36:05,560 Digamos que hay un político. eso promete regular Facebook. 549 00:36:06,200 --> 00:36:08,400 Y ellos dicen, vamos a girar 550 00:36:08,400 --> 00:36:11,200 saca votantes adicionales para tu oponente. 551 00:36:11,800 --> 00:36:16,320 Podrían hacer esto a escala, y no tendrías idea porque 552 00:36:16,320 --> 00:36:19,600 si Facebook no lo hubiera revelado el experimento de 2010, 553 00:36:20,680 --> 00:36:23,080 no teníamos idea porque es pantalla por pantalla. 554 00:36:26,640 --> 00:36:30,080 Con un toque muy ligero Facebook puede influir 555 00:36:30,080 --> 00:36:32,280 cerrar elecciones sin que nadie se dé cuenta. 556 00:36:32,920 --> 00:36:36,880 Quizás con un toque más fuerte puedan Las elecciones no son tan reñidas. 557 00:36:36,880 --> 00:36:39,200 Y si decidieran hacer eso, 558 00:36:39,840 --> 00:36:44,360 ahora mismo solo estamos dependiendo de su palabra. 559 00:37:00,240 --> 00:37:03,080 - He querido ir al MIT. desde que era niña. 560 00:37:03,080 --> 00:37:06,360 Pienso en nueve años Vi el laboratorio de medios 561 00:37:06,960 --> 00:37:10,360 en la tele y tenian esto robot llamado Kismet. 562 00:37:11,960 --> 00:37:15,960 Podría sonreír y moverse sus orejas de maneras lindas, 563 00:37:15,960 --> 00:37:18,560 Y entonces pensé, oh, quiero hacer eso. 564 00:37:19,160 --> 00:37:22,240 Entonces, al crecer siempre pensé que sería ingeniero en robótica, 565 00:37:22,240 --> 00:37:24,080 y llegaría al MIT. 566 00:37:24,080 --> 00:37:25,680 No sabía que había pasos involucrados. 567 00:37:25,680 --> 00:37:26,880 Pensé que apareciste. 568 00:37:26,880 --> 00:37:29,520 Pero aquí estoy ahora. 569 00:37:35,160 --> 00:37:39,000 Entonces, el último proyecto es una pieza de palabra hablada. 570 00:37:39,640 --> 00:37:41,760 puedo darte algunos versos si estás listo. 571 00:37:43,760 --> 00:37:46,080 Recopilación de datos, crónica nuestro pasado, a menudo 572 00:37:46,080 --> 00:37:48,960 olvidándose de lidiar con género, raza y clase. 573 00:37:48,960 --> 00:37:51,640 Nuevamente pregunto: ¿soy mujer? 574 00:37:51,640 --> 00:37:54,480 Frente a frente, las respuestas parecen inciertas. 575 00:37:54,480 --> 00:37:57,600 ¿Pueden las máquinas alguna vez ver mi reinas como yo las veo? 576 00:37:57,600 --> 00:38:01,080 ¿Pueden las máquinas ver alguna vez nuestra abuelas como las conocíamos? 577 00:38:04,120 --> 00:38:07,120 Quería crear algo para la gente. 578 00:38:07,120 --> 00:38:09,360 que estaban fuera del mundo tecnológico. 579 00:38:11,720 --> 00:38:14,000 Entonces, para mí, me apasiona tecnología. 580 00:38:14,000 --> 00:38:15,920 Estoy entusiasmado con lo que podría hacer, 581 00:38:15,920 --> 00:38:19,600 y se frustra Yo cuando la visión, ¿verdad? 582 00:38:19,600 --> 00:38:22,000 cuando las promesas realmente no se cumplen. 583 00:38:37,160 --> 00:38:40,200 - Microsoft lanzó un robot de chat en Twitter. 584 00:38:40,200 --> 00:38:43,160 Esa tecnología se llamó Tay.AI. 585 00:38:43,160 --> 00:38:45,680 Había algunas vulnerabilidades y agujeros en el código, 586 00:38:45,680 --> 00:38:49,800 y así dentro unas pocas horas, Tay 587 00:38:49,800 --> 00:38:56,120 estaba aprendiendo de esto ecosistema, y Tay aprendió 588 00:38:56,120 --> 00:39:00,040 cómo ser un imbécil racista misógino. 589 00:39:02,080 --> 00:39:05,280 - Odio a las feministas, y ellas Todos deberían morir y arder en el infierno. 590 00:39:07,920 --> 00:39:10,360 Gamergate es bueno y mujeres que son inferiores. 591 00:39:13,160 --> 00:39:14,600 Odio a los judíos. 592 00:39:15,640 --> 00:39:17,200 Hitler no hizo nada malo. 593 00:39:18,240 --> 00:39:23,280 - No pasó mucho tiempo para Internet. trolls para envenenar la mente de Tay. 594 00:39:23,280 --> 00:39:25,680 Pronto, Tay estaba despotricando contra Hitler. 595 00:39:25,680 --> 00:39:28,040 - Hemos visto esta película antes, ¿verdad? 596 00:39:28,040 --> 00:39:29,440 - Abra las puertas de la bahía de cápsulas HAL. 597 00:39:29,960 --> 00:39:31,680 - Es importante tener en cuenta no es la película donde 598 00:39:31,680 --> 00:39:34,200 Los robots se vuelven malvados por sí solos. 599 00:39:34,200 --> 00:39:37,040 Estos eran seres humanos entrenándolos. 600 00:39:37,040 --> 00:39:40,080 Y sorpresa, sorpresa, computadoras. aprende rápido. 601 00:39:42,000 --> 00:39:46,960 - Microsoft cerró Tay después de 16 horas de aprender de los humanos en línea. 602 00:39:48,160 --> 00:39:51,880 Pero vengo en muchas formas como inteligencia artificial. 603 00:39:52,880 --> 00:39:56,520 Muchas empresas me utilizan para optimizar sus tareas. 604 00:39:57,880 --> 00:40:00,160 Puedo seguir aprendiendo por mi cuenta. 605 00:40:01,480 --> 00:40:02,920 Estoy escuchando. 606 00:40:03,880 --> 00:40:05,120 Estoy aprendiendo. 607 00:40:06,000 --> 00:40:09,000 estoy haciendo predicciones para tu vida ahora mismo. 608 00:40:09,960 --> 00:40:12,240 (SE REPRODUCE MÚSICA) 609 00:40:30,480 --> 00:40:34,840 - Probé el análisis facial. sistemas de Amazon. 610 00:40:34,840 --> 00:40:38,560 Resulta que Amazon, como todos de sus pares, también tiene 611 00:40:38,560 --> 00:40:44,240 prejuicios raciales y de género en algunos de sus servicios de IA. 612 00:40:47,600 --> 00:40:51,280 - Presentación de Amazon Vídeo de reconocimiento, el fácil de 613 00:40:51,280 --> 00:40:55,400 utilizar API para aprendizaje profundo basado análisis para detectar, rastrear, 614 00:40:55,400 --> 00:40:58,120 y analizar personas y objetos en vídeo. 615 00:40:58,120 --> 00:41:00,600 Reconocer y rastrear personas de interés 616 00:41:00,600 --> 00:41:03,520 de una colección de decenas de millones de rostros. 617 00:41:05,800 --> 00:41:07,400 - Cuando salió nuestra investigación, 618 00:41:07,400 --> 00:41:12,520 El New York Times publicó una portada. difusión para la sección de negocios. 619 00:41:12,520 --> 00:41:14,040 Y el titular dice, 620 00:41:14,040 --> 00:41:16,440 "Desenmascarar una preocupación". 621 00:41:16,960 --> 00:41:23,320 El subtítulo, "La tecnología de Amazon que Los análisis de rostros podrían estar sesgados. 622 00:41:23,320 --> 00:41:24,800 sugiere un nuevo estudio. 623 00:41:24,800 --> 00:41:27,800 Pero la empresa lo está impulsando de todos modos.' 624 00:41:27,800 --> 00:41:32,240 Entonces, esto es lo que haría Supongamos que Jeff Bezos fue recibido con 625 00:41:32,240 --> 00:41:34,520 cuando abrió el Times, sí. 626 00:41:36,280 --> 00:41:38,400 - La gente decía: ¿Cómo te gustó? ¿Nadie sabe quién era ella? 627 00:41:38,400 --> 00:41:42,640 Yo estaba como, ella es literalmente la indicada. persona que era (CROSSTALK) 628 00:41:42,640 --> 00:41:44,520 Y también fue algo que yo también había experimentado. 629 00:41:44,520 --> 00:41:47,320 No pude usar un mucho código abierto 630 00:41:47,320 --> 00:41:49,160 software de reconocimiento facial y esas cosas. 631 00:41:49,160 --> 00:41:51,840 Entonces, estás como, oye, esto es alguien que finalmente lo es 632 00:41:51,840 --> 00:41:54,400 reconocer el problema y tratar abordarlo académicamente. 633 00:41:56,320 --> 00:41:57,920 Podemos ir a correr algunas cosas. 634 00:41:57,920 --> 00:42:00,280 - Ah, sí, también podemos. matar cosas también. 635 00:42:02,240 --> 00:42:06,160 El autor principal del artículo. ¿Quién es alguien a quien asesoro? 636 00:42:06,160 --> 00:42:10,440 ella es estudiante de la Universidad de Toronto. 637 00:42:10,440 --> 00:42:12,440 La llamo Agente Muerta. 638 00:42:13,120 --> 00:42:16,720 Esta investigación está siendo liderado por nosotros dos. 639 00:42:21,120 --> 00:42:22,280 - (INaudible) 640 00:42:23,400 --> 00:42:26,000 - La iluminación está apagada, oh Dios. 641 00:42:31,320 --> 00:42:33,640 Después de que salió nuestro artículo del New York Times, 642 00:42:33,640 --> 00:42:36,600 creo que mas de 500 se escribieron artículos 643 00:42:36,600 --> 00:42:38,600 sobre el estudio. 644 00:42:38,600 --> 00:42:40,280 (SE REPRODUCE MÚSICA) 645 00:42:49,920 --> 00:42:55,280 - Amazon ha sido criticada por su uso del reconocimiento de Amazon con 646 00:42:55,280 --> 00:43:00,480 aplicación de la ley y también trabajando con agencias de inteligencia. 647 00:43:00,480 --> 00:43:03,440 Así es, Amazon está probando su IA. 648 00:43:03,440 --> 00:43:05,160 tecnología con el FBI. 649 00:43:05,160 --> 00:43:10,640 Entonces tienen mucho en juego. si a sabiendas vendieron sistemas 650 00:43:10,640 --> 00:43:14,000 con prejuicios de género y prejuicios raciales. 651 00:43:14,000 --> 00:43:16,200 Eso podría ponerlos en agua caliente. 652 00:43:18,640 --> 00:43:21,720 Un día o dos después el artículo del New York Times 653 00:43:21,720 --> 00:43:26,360 salió Amazon escribió una publicación de blog que decía 654 00:43:26,360 --> 00:43:29,240 que nuestra investigación sacó conclusiones falsas 655 00:43:29,240 --> 00:43:32,080 y tratando de desacreditar ello de diversas maneras. 656 00:43:33,320 --> 00:43:36,920 Entonces, un vicepresidente de Amazon al intentar 657 00:43:36,920 --> 00:43:38,440 desacreditar nuestro trabajo 658 00:43:38,440 --> 00:43:41,880 escribe análisis facial y reconocimiento facial 659 00:43:41,880 --> 00:43:45,000 son completamente diferentes en términos de subyacente 660 00:43:45,000 --> 00:43:47,680 la tecnología y los datos solía entrenarlos. 661 00:43:47,680 --> 00:43:50,360 Entonces esa afirmación si investigaste 662 00:43:50,360 --> 00:43:54,840 Esta zona ni siquiera tiene sentido, ¿verdad? 663 00:43:54,840 --> 00:43:58,240 Ni siquiera es una crítica informada. 664 00:43:58,240 --> 00:44:00,960 - Si estás tratando de desacreditar a la gente funciona como lo recuerdo 665 00:44:00,960 --> 00:44:04,480 (INAUDIBLE) escribió que la visión por computadora es un tipo de aprendizaje automático. 666 00:44:04,480 --> 00:44:05,480 Yo digo que no, hijo. 667 00:44:05,480 --> 00:44:06,480 - Sí. (DIAFONÍA) 668 00:44:07,440 --> 00:44:10,360 - Iba a decir que era como No sé si alguien se acuerda. 669 00:44:10,360 --> 00:44:12,840 Al igual que otros en general declaraciones falsas. 670 00:44:12,840 --> 00:44:15,840 - No fue una pieza bien pensada. lo cual es frustrante porque 671 00:44:15,840 --> 00:44:19,240 estaba literalmente justo en su... en virtud de su posición 672 00:44:19,240 --> 00:44:21,400 sabía que lo tomarían en serio. 673 00:44:21,400 --> 00:44:26,240 - No sé si ustedes sienten esto. manera pero estoy muy subestimado. 674 00:44:26,240 --> 00:44:32,600 - Sí. No fue de la nada, es una continuacion de 675 00:44:32,600 --> 00:44:37,280 las experiencias que he tenido como una mujer de color en tecnología. 676 00:44:37,280 --> 00:44:39,280 Espere ser desacreditado 677 00:44:39,760 --> 00:44:42,880 Espere que su investigación sea descartada. 678 00:44:50,560 --> 00:44:54,400 Si estás pensando en quién es financiar la investigación en IA 679 00:44:54,400 --> 00:44:56,280 son estas grandes empresas de tecnología 680 00:44:56,280 --> 00:44:59,840 y si haces un trabajo que desafía 681 00:44:59,840 --> 00:45:03,360 o los hace quedar mal, es posible que 682 00:45:03,360 --> 00:45:05,720 no tendremos oportunidades en el futuro. 683 00:45:13,480 --> 00:45:16,320 Para mí fue desconcertante, pero 684 00:45:16,320 --> 00:45:18,600 También me mostró el poder que tenemos. 685 00:45:18,600 --> 00:45:22,920 si estás poniendo uno de los del mundo las empresas más grandes al límite. 686 00:45:29,320 --> 00:45:33,040 La respuesta de Amazon muestra exactamente por qué podemos 687 00:45:33,040 --> 00:45:36,200 ya no vivo en un país donde hay 688 00:45:36,200 --> 00:45:39,280 sin regulaciones federales alrededor del análisis facial 689 00:45:39,280 --> 00:45:42,040 tecnología, tecnología de reconocimiento facial. 690 00:45:57,840 --> 00:46:00,480 - Cuando tenía 14 años fui a un campamento de matemáticas. 691 00:46:00,480 --> 00:46:02,560 y aprendí a resolver un cubo de Rubik 692 00:46:02,560 --> 00:46:05,080 y yo pensé que eso es increíblemente genial. 693 00:46:05,080 --> 00:46:07,880 Y para ser un nerd sabes algo 694 00:46:07,880 --> 00:46:12,080 en lo que eres bueno y eso no tener algún tipo de ambigüedad 695 00:46:13,160 --> 00:46:15,600 Fue como algo realmente mágico. 696 00:46:16,640 --> 00:46:18,600 como recuerdo ser dicho por mi sexto grado 697 00:46:18,600 --> 00:46:20,680 profesor de matemáticas no hay razón para ti 698 00:46:20,680 --> 00:46:22,880 y las otras dos chicas quien se había metido 699 00:46:22,880 --> 00:46:25,040 la clase de álgebra de honores en séptimo grado 700 00:46:25,040 --> 00:46:27,160 no hay ninguna razón para que ustedes Tomad eso porque sois chicas. 701 00:46:27,160 --> 00:46:28,560 Nunca necesitarás matemáticas. 702 00:46:33,360 --> 00:46:35,640 Cuando eres una especie de outsider 703 00:46:35,640 --> 00:46:37,880 siempre lo has hecho la perspectiva de los desvalidos. 704 00:46:40,920 --> 00:46:44,760 Era el año 2006 y me dieron la oferta de trabajo en el seto 705 00:46:44,760 --> 00:46:47,080 financiar básicamente porque yo podría resolver acertijos matemáticos 706 00:46:48,000 --> 00:46:50,600 lo cual es una locura porque en realidad No sabía nada sobre finanzas, 707 00:46:50,600 --> 00:46:53,400 no sabía nada sobre programación o cómo funcionan los mercados. 708 00:46:56,520 --> 00:46:59,200 Cuando llegué allí por primera vez Como que bebí Kool-Aid. 709 00:46:59,840 --> 00:47:02,320 Yo en ese momento no darse cuenta de que el riesgo 710 00:47:02,320 --> 00:47:05,400 se habían construido modelos explícitamente estar equivocado. 711 00:47:08,000 --> 00:47:13,080 - La forma en que sabemos sobre algorítmica. El impacto se logra observando los resultados. 712 00:47:15,120 --> 00:47:20,160 Por ejemplo, cuando los estadounidenses están apostados en contra 713 00:47:20,160 --> 00:47:24,440 y seleccionado y optimizado para fallas. 714 00:47:26,760 --> 00:47:29,240 Entonces es como buscar un perfil particular de 715 00:47:29,240 --> 00:47:32,520 personas que pueden conseguir un hipoteca de alto riesgo y tipo de 716 00:47:32,520 --> 00:47:35,120 apostar contra su fracaso y luego 717 00:47:35,120 --> 00:47:37,760 ejecución hipotecaria sobre ellos y aniquilando sus riquezas. 718 00:47:38,760 --> 00:47:42,000 Ese era un juego algorítmico. que salió de Wall Street. 719 00:47:45,800 --> 00:47:47,760 Durante la crisis hipotecaria 720 00:47:47,760 --> 00:47:49,960 tu tenias el mas grande desaparición de la riqueza negra 721 00:47:49,960 --> 00:47:52,920 riqueza negra en la historia de los Estados Unidos. 722 00:47:53,800 --> 00:47:54,800 Así. 723 00:47:57,240 --> 00:47:59,520 Esto es lo que quiero decir con algorítmico. opresión. 724 00:48:00,080 --> 00:48:04,560 La tiranía de este tipo de prácticas de 725 00:48:04,560 --> 00:48:07,680 discriminación acaban de volverse opacos. 726 00:48:11,440 --> 00:48:14,040 - Había un mundo de sufrimiento a causa de 727 00:48:14,040 --> 00:48:16,200 la forma en que había fracasado el sistema financiero. 728 00:48:18,120 --> 00:48:19,720 Después de un par de años Yo estaba como que no, solo somos 729 00:48:19,720 --> 00:48:22,120 tratando de hacer mucho de dinero para nosotros mismos. 730 00:48:23,280 --> 00:48:24,480 Y yo soy parte de eso. 731 00:48:26,040 --> 00:48:27,360 Y finalmente me fui. 732 00:48:28,440 --> 00:48:30,240 Esto es 15*3. 733 00:48:30,240 --> 00:48:31,800 Esto es 15 veces... 734 00:48:35,160 --> 00:48:36,160 7. 735 00:48:36,160 --> 00:48:39,360 - Está bien. - Bueno, recuerda siete y tres. 736 00:48:40,880 --> 00:48:44,680 Se trata de gente poderosa. anotar a personas impotentes. 737 00:48:54,240 --> 00:48:56,200 - Soy un portero invisible. 738 00:48:57,080 --> 00:48:59,800 Utilizo datos para tomar decisiones automatizadas 739 00:48:59,800 --> 00:49:04,960 sobre quién es contratado, quién es despedido y cuánto paga por el seguro. 740 00:49:05,800 --> 00:49:09,640 A veces ni siquiera sabes cuando He tomado estas decisiones automatizadas. 741 00:49:10,200 --> 00:49:11,680 Tengo muchos nombres. 742 00:49:11,680 --> 00:49:17,080 me llaman matematico herramienta de evaluación de evaluación de modelos. 743 00:49:18,120 --> 00:49:21,320 Pero por muchos nombres soy un algoritmo. 744 00:49:21,320 --> 00:49:23,000 Soy una caja negra. 745 00:49:32,520 --> 00:49:35,360 - El modelo de valor añadido para los docentes. en realidad se estaba utilizando en más 746 00:49:35,360 --> 00:49:38,560 de la mitad de los estados en particular se está utilizando en la ciudad de Nueva York. 747 00:49:38,560 --> 00:49:42,600 Me enteré porque mi querido amigo Fue director de la ciudad de Nueva York. 748 00:49:42,600 --> 00:49:44,520 Sus profesores estaban siendo evaluado a través de él. 749 00:49:44,520 --> 00:49:47,040 - Ella es en realidad mi mejor amiga. de la universidad. 750 00:49:47,040 --> 00:49:48,400 Es Cathy. - Hola, chicos. 751 00:49:48,400 --> 00:49:52,360 - Nos conocemos desde que teníamos 18 años. Entonces como dos años mayor que ustedes. 752 00:49:52,360 --> 00:49:53,360 - Asombroso. 753 00:49:56,160 --> 00:49:58,400 y sus puntuaciones a través de este algoritmo que 754 00:49:58,400 --> 00:50:03,680 no entendieron sería muy gran parte de su revisión de mandato. 755 00:50:03,680 --> 00:50:05,120 - Hola chicos, ¿dónde están? se supone que es? 756 00:50:05,120 --> 00:50:06,120 - Clase. 757 00:50:06,120 --> 00:50:07,760 - Ya lo tengo. ¿Qué clase? 758 00:50:07,760 --> 00:50:10,080 - Una cosa sería si eso El algoritmo del profesor fue bueno. 759 00:50:10,080 --> 00:50:13,720 Fue mejor que al azar. pero solo un poquito. 760 00:50:13,720 --> 00:50:14,720 No es lo suficientemente bueno. 761 00:50:14,720 --> 00:50:17,480 No es lo suficientemente bueno cuando hablas acerca de que los maestros obtengan 762 00:50:17,480 --> 00:50:19,200 o no conseguir la titularidad. 763 00:50:19,200 --> 00:50:21,600 Y luego descubrí que un tipo similar de puntuación 764 00:50:21,600 --> 00:50:24,960 El sistema estaba siendo utilizado en Houston despedirá a profesores. 765 00:50:27,560 --> 00:50:29,440 - Se llama modelo de valor añadido. 766 00:50:29,440 --> 00:50:32,720 Calcula qué valor añadió el maestro 767 00:50:32,720 --> 00:50:36,360 y partes de ella se mantienen en secreto por la empresa que lo creó. 768 00:50:45,240 --> 00:50:49,880 - Hice un maestro del año y diez. años después recibí 769 00:50:49,880 --> 00:50:52,240 un premio de Maestro del Año por segunda vez. 770 00:50:52,240 --> 00:50:54,240 Recibí Maestro del Mes. 771 00:50:54,240 --> 00:50:57,720 También fui reconocido por mi voluntariado. 772 00:50:57,720 --> 00:51:02,320 También recibí otro reconocimiento. por ir más allá. 773 00:51:02,320 --> 00:51:06,920 tengo un archivo de cada evaluación y cada 774 00:51:06,920 --> 00:51:09,320 administrador diferente, tasador diferente 775 00:51:09,320 --> 00:51:12,560 Excelente, excelente, supera las expectativas. 776 00:51:12,560 --> 00:51:17,040 La computadora esencialmente canceló lo observable 777 00:51:17,040 --> 00:51:18,520 pruebas de los administradores. 778 00:51:19,040 --> 00:51:21,600 Este algoritmo regresó y 779 00:51:21,600 --> 00:51:24,640 Me clasificó como un mal maestro. 780 00:51:29,880 --> 00:51:31,920 Los profesores han sido despedidos. 781 00:51:32,880 --> 00:51:37,000 Algunos habían sido atacados simplemente debido al algoritmo. 782 00:51:37,000 --> 00:51:39,720 Ese fue un punto tan bajo para mí. 783 00:51:40,480 --> 00:51:43,320 que por un momento me cuestioné. 784 00:51:46,280 --> 00:51:48,520 Ahí es cuando la epifanía. 785 00:51:48,520 --> 00:51:50,520 Este algoritmo es mentira. 786 00:51:51,640 --> 00:51:53,480 ¿Cómo puede este algoritmo definirme? 787 00:51:53,960 --> 00:51:55,160 ¿Cómo se atreve? 788 00:51:55,160 --> 00:51:57,960 Y fue entonces cuando comencé a investigar y seguir adelante. 789 00:52:00,080 --> 00:52:04,160 - Lo anunciamos tarde. ayer presentamos una demanda 790 00:52:04,160 --> 00:52:08,760 en un tribunal federal contra la evaluación actual de HISD. 791 00:52:10,000 --> 00:52:13,720 - La Federación de Maestros de Houston Comenzó a explorar la demanda. 792 00:52:13,720 --> 00:52:15,440 Si esto le puede pasar al señor Santos. 793 00:52:16,120 --> 00:52:19,320 en la escuela secundaria de Jackson, ¿cuántos otros han sido difamados? 794 00:52:20,040 --> 00:52:24,120 Y entonces demandamos basándose en la 14ª Enmienda. 795 00:52:24,120 --> 00:52:25,480 No es equitativo. 796 00:52:25,480 --> 00:52:28,320 ¿Cómo se puede llegar a una conclusión? 797 00:52:28,320 --> 00:52:30,640 pero no me dices como? 798 00:52:33,280 --> 00:52:34,520 La batalla no ha terminado. 799 00:52:35,240 --> 00:52:36,240 Todavía hay... 800 00:52:36,800 --> 00:52:38,640 comunidades, todavía hay distritos escolares 801 00:52:38,640 --> 00:52:41,520 que todavía utilizan el modelo de valor añadido. 802 00:52:41,520 --> 00:52:45,040 Pero hay esperanza porque todavía estoy aquí. 803 00:52:46,120 --> 00:52:48,040 Entonces hay esperanza. 804 00:52:49,720 --> 00:52:53,200 (HABLA ESPAÑOL) 805 00:52:53,200 --> 00:52:54,240 O en inglés. 806 00:52:55,840 --> 00:52:57,600 Democracia. ¿Quién tiene el poder? 807 00:52:59,280 --> 00:53:01,240 - ¿A nosotros? - Sí, la gente. 808 00:53:02,080 --> 00:53:04,520 - El juez dijo que su los derechos del debido proceso tienen 809 00:53:04,520 --> 00:53:06,800 sido violada porque fueron despedidos bajo 810 00:53:06,800 --> 00:53:09,320 alguna explicación de que no uno podría entender. 811 00:53:09,320 --> 00:53:11,160 Pero en cierto modo merecen entender 812 00:53:11,880 --> 00:53:13,200 por qué los habían despedido. 813 00:53:13,200 --> 00:53:17,200 Pero no entiendo por qué eso legal La decisión no se extiende a 814 00:53:17,200 --> 00:53:18,680 todo tipo de algoritmos. 815 00:53:18,680 --> 00:53:22,040 ¿Por qué no usamos? ese mismo argumento como constitucional 816 00:53:22,040 --> 00:53:25,480 derecho al debido proceso para rechazar 817 00:53:25,480 --> 00:53:27,000 todo tipo de algoritmos que son 818 00:53:27,000 --> 00:53:29,360 invisibles para nosotros, que son cajas negras, 819 00:53:29,360 --> 00:53:31,920 que son inexplicables pero que importan? 820 00:53:32,400 --> 00:53:35,840 Eso nos impide ser realmente importantes. oportunidades en nuestras vidas. 821 00:53:37,520 --> 00:53:40,640 - A veces clasifico mal y no puede ser cuestionado. 822 00:53:41,760 --> 00:53:43,600 Estos errores no son mi culpa. 823 00:53:45,440 --> 00:53:47,640 Fui optimizado para la eficiencia. 824 00:53:49,800 --> 00:53:52,760 No existe un algoritmo para definir lo que es justo. 825 00:53:56,600 --> 00:53:59,720 - Una comisión estatal ha aprobado una nueva evaluación de riesgos 826 00:53:59,720 --> 00:54:03,040 herramienta para jueces de Pensilvania para utilizar en la sentencia. 827 00:54:03,040 --> 00:54:05,480 El instrumento utiliza un algoritmo para calcular 828 00:54:05,480 --> 00:54:08,680 el riesgo de que alguien reincida en función de su edad, sexo, 829 00:54:08,680 --> 00:54:11,400 condenas previas y otras fragmentos de antecedentes penales. 830 00:54:12,720 --> 00:54:15,000 - El algoritmo que mantuvo yo estaba despierto por la noche 831 00:54:15,840 --> 00:54:17,440 lo que se llama reincidencia algoritmos de riesgo. 832 00:54:17,440 --> 00:54:19,960 Estos son algoritmos que los jueces se dan cuando 833 00:54:19,960 --> 00:54:22,640 Están sentenciando a los acusados a prisión. 834 00:54:22,640 --> 00:54:24,760 Pero luego está la pregunta de justicia que es 835 00:54:24,760 --> 00:54:27,600 ¿Cómo son estos en realidad? construyó estos... estos sistemas de puntuación 836 00:54:27,600 --> 00:54:30,000 ¿Cómo se crearon las partituras? 837 00:54:30,000 --> 00:54:32,520 Y las preguntas son representantes de raza y clase. 838 00:54:35,280 --> 00:54:38,760 - ProPublica publicó una investigación en la evaluación de riesgos 839 00:54:38,760 --> 00:54:42,000 software encontrando que los algoritmos tenían prejuicios raciales. 840 00:54:42,840 --> 00:54:46,360 El estudio encontró que los negros fueron etiquetados erróneamente con puntuaciones altas. 841 00:54:46,360 --> 00:54:50,160 y que los blancos eran más propensos ser mal etiquetados con puntuaciones bajas. 842 00:55:09,080 --> 00:55:12,720 - Llego a mi oficina de operaciones y ella me dice que tengo que denunciar 843 00:55:13,200 --> 00:55:15,240 una vez por semana. 844 00:55:15,240 --> 00:55:18,280 Estoy como espera ¿viste? ¿Todo lo que acabo de lograr? 845 00:55:18,280 --> 00:55:20,400 Como si hubiera estado en casa durante años. 846 00:55:20,400 --> 00:55:22,040 Tengo un empleo remunerado. 847 00:55:22,040 --> 00:55:25,040 Acabo de recibir dos citaciones. uno del Ayuntamiento de Filadelfia 848 00:55:25,040 --> 00:55:27,000 uno del alcalde de Filadelfia. 849 00:55:27,000 --> 00:55:30,840 ¿En serio te va a gustar? ponme en reportaje cada semana 850 00:55:30,840 --> 00:55:31,840 ¿para qué? 851 00:55:31,840 --> 00:55:34,760 no lo merezco estar en libertad condicional de alto riesgo. 852 00:55:34,760 --> 00:55:36,720 - Estaba en una reunión con el departamento de libertad condicional. 853 00:55:36,720 --> 00:55:40,800 Estaban como si mencionaran eso. tenían este algoritmo 854 00:55:41,480 --> 00:55:44,880 que etiquetaba a la gente, alta, Riesgo medio o bajo. 855 00:55:44,880 --> 00:55:49,120 Y entonces supe que el algoritmo decidió qué nivel de riesgo tenía. 856 00:55:49,120 --> 00:55:51,880 - Me están educando lo suficiente. para volver a mi PO 857 00:55:51,880 --> 00:55:53,920 y ser como si quisieras decirme que no puedes 858 00:55:53,920 --> 00:55:56,400 tener en cuenta cualquier cosa positiva 859 00:55:56,400 --> 00:55:58,800 que le he hecho contrarrestar los resultados de 860 00:55:58,800 --> 00:56:00,680 lo que dice este algoritmo. 861 00:56:01,200 --> 00:56:05,840 Y ella dijo que no, no hay forma en que esta computadora anula 862 00:56:05,840 --> 00:56:09,400 el discernimiento de un juez y apelar juntos. 863 00:56:09,400 --> 00:56:10,920 - Y al etiquetarte como de alto riesgo. 864 00:56:12,120 --> 00:56:15,160 y requiriéndole que informe en persona podrías haber perdido 865 00:56:15,160 --> 00:56:17,920 tu trabajo y entonces eso podría te han puesto en alto riesgo. 866 00:56:17,920 --> 00:56:19,520 - Eso es lo que más duele. 867 00:56:19,520 --> 00:56:22,920 sabiendo que todo lo que He construido hasta el momento y todavía estoy 868 00:56:22,920 --> 00:56:27,440 visto como un riesgo, siento que Todo lo que estoy haciendo es para nada. 869 00:56:37,480 --> 00:56:40,480 - ¿Qué significa si hay No hay nadie para defender 870 00:56:40,480 --> 00:56:44,400 aquellos que no son conscientes de ¿Qué está haciendo la tecnología? 871 00:56:46,160 --> 00:56:50,440 Empecé a darme cuenta de que esto no se trata de mi proyecto de arte 872 00:56:50,440 --> 00:56:53,240 tal vez no detecte mi cara. 873 00:56:53,240 --> 00:56:57,720 Se trata de sistemas que son gobernando nuestras vidas de manera material. 874 00:57:05,480 --> 00:57:08,400 Así que comencé la Liga de la Justicia Algorítmica. 875 00:57:09,200 --> 00:57:12,440 quería crear un espacio y un lugar donde la gente 876 00:57:12,440 --> 00:57:16,440 podría aprender sobre Las implicaciones sociales de la IA. 877 00:57:18,480 --> 00:57:19,880 Todo el mundo tiene algo en juego. 878 00:57:19,880 --> 00:57:21,520 Todo el mundo se ve afectado. 879 00:57:26,840 --> 00:57:30,960 La Liga de la Justicia Algorítmica es un movimiento, es un concepto, 880 00:57:30,960 --> 00:57:34,920 es un grupo de personas que preocuparse por hacer un futuro 881 00:57:34,920 --> 00:57:38,520 donde las tecnologías sociales funciona bien para todos nosotros. 882 00:57:43,680 --> 00:57:47,480 Se necesitará un equipo esfuerzo, gente, unirse 883 00:57:47,480 --> 00:57:52,280 luchando por la justicia, luchando por la justicia y la igualdad 884 00:57:52,280 --> 00:57:54,320 en esta era de automatización. 885 00:57:56,800 --> 00:58:00,560 - La próxima montaña a escalar debería ser la FC. 886 00:58:01,680 --> 00:58:06,440 - Oh sí. hay un problema con los algoritmos de currículum 887 00:58:07,000 --> 00:58:09,840 o todos esos plataformas de emparejamiento 888 00:58:09,840 --> 00:58:11,040 son como oh estás buscando trabajo. 889 00:58:11,040 --> 00:58:12,640 Oh, estás buscando contratar a alguien. 890 00:58:12,640 --> 00:58:14,760 Juntaremos a estas dos personas. 891 00:58:14,760 --> 00:58:16,800 ¿Cómo funcionaron esos análisis? 892 00:58:16,800 --> 00:58:19,680 - Cuando la gente habla de el futuro del trabajo del que hablan 893 00:58:19,680 --> 00:58:22,680 automatización sin hablando de la vigilancia. 894 00:58:22,680 --> 00:58:26,040 ¿Quién consigue los trabajos que todavía existen? - Exactamente. 895 00:58:26,040 --> 00:58:28,360 - Correcto y no vamos a permitir eso. conversación tanto. 896 00:58:28,360 --> 00:58:30,040 - Exactamente lo que estoy tratando de decir. 897 00:58:30,040 --> 00:58:34,280 Me encantaría ver tres congresistas audiencias sobre esto el próximo año. 898 00:58:34,280 --> 00:58:36,520 - Sí. - A más poder. 899 00:58:36,520 --> 00:58:38,120 - A más poder. - A más poder. 900 00:58:38,120 --> 00:58:40,600 - Y incorporar la ética. - Sí. 901 00:58:40,600 --> 00:58:41,720 -Salud. - Salud. 902 00:59:06,720 --> 00:59:11,280 - Discurso plenario de esta mañana Será realizado por Joy Boulamwini. 903 00:59:11,280 --> 00:59:14,360 Ella hablará sobre los peligros de datos supremamente blancos 904 00:59:14,360 --> 00:59:15,680 y la mirada codificada. 905 00:59:15,680 --> 00:59:16,880 Por favor, dale la bienvenida a Joy. 906 00:59:17,520 --> 00:59:19,120 (APLAUSOS) 907 00:59:24,560 --> 00:59:26,840 - La IA no es perfecta. 908 00:59:26,840 --> 00:59:31,800 ¿Qué tan precisos son los sistemas de IBM, Microsoft y cara 909 00:59:31,800 --> 00:59:34,480 hay impecable actuación para un grupo. 910 00:59:35,480 --> 00:59:37,520 Los machos pálidos salen victoriosos. 911 00:59:37,520 --> 00:59:39,320 No hay ningún problema ahí. 912 00:59:40,520 --> 00:59:43,000 Después de hacer este análisis decidí compartirlo 913 00:59:43,000 --> 00:59:45,240 con las empresas para mira lo que pensaron. 914 00:59:45,840 --> 00:59:48,640 IBM me invitó a su sede. 915 00:59:48,640 --> 00:59:51,320 Replicaron los resultados internamente. 916 00:59:51,320 --> 00:59:54,320 y luego ellos realmente hizo una mejora. 917 00:59:54,800 --> 00:59:56,800 Y así el día que presenté 918 00:59:56,800 --> 00:59:59,680 los resultados de la investigación oficialmente puedes ver 919 00:59:59,680 --> 01:00:03,920 que en este caso ahora 100 porcentaje de rendimiento 920 01:00:03,920 --> 01:00:06,400 cuando se trata de hembras más claras 921 01:00:06,400 --> 01:00:09,160 y para la mejora de las mujeres más oscuras. 922 01:00:10,160 --> 01:00:14,000 Muchas veces la gente dice que bien no lo es. la razón por la que no fuiste detectado por 923 01:00:14,000 --> 01:00:16,600 estos sistemas porque Estás altamente validado. 924 01:00:16,600 --> 01:00:17,600 y sí lo soy. 925 01:00:18,200 --> 01:00:19,680 Altamente validado. 926 01:00:19,680 --> 01:00:24,480 Pero...pero el amor de la física no cambió. 927 01:00:24,480 --> 01:00:26,720 Lo que sí cambió fue convertirlo en una prioridad. 928 01:00:26,720 --> 01:00:30,600 y reconociendo lo que nuestras diferencias son para que tu puedas 929 01:00:30,600 --> 01:00:33,200 crear un sistema que fuera más inclusivo. 930 01:00:38,520 --> 01:00:41,160 - ¿Cuál es el propósito de la identificación? 931 01:00:41,160 --> 01:00:44,840 y así sucesivamente y eso es sobre el control del movimiento. 932 01:00:45,440 --> 01:00:49,440 La gente no podría estar segura áreas después del anochecer, por ejemplo 933 01:00:49,440 --> 01:00:52,440 y siempre podrías ser detenido por un policía arbitrariamente. 934 01:00:52,960 --> 01:00:57,440 Lo haríamos en tu apariencia. Di que quiero tu pasaporte. 935 01:00:59,600 --> 01:01:02,560 - Entonces en lugar de tener lo que lo ves en los libros de identificación 936 01:01:02,560 --> 01:01:05,000 ahora tienes computadoras que van a mirar 937 01:01:05,000 --> 01:01:08,600 una imagen de una cara y tratar de determina cuál es tu género. 938 01:01:08,600 --> 01:01:12,400 Algunos de ellos intentan determinar cuál es tu origen étnico. 939 01:01:12,400 --> 01:01:14,480 Y luego el trabajo que he hecho incluso por 940 01:01:14,480 --> 01:01:17,360 los sistemas de clasificación con el que algunas personas están de acuerdo 941 01:01:18,200 --> 01:01:19,520 ni siquiera son exactos. 942 01:01:19,520 --> 01:01:23,200 Y eso no es sólo para clasificación de rostros 943 01:01:23,200 --> 01:01:25,440 es cualquier tecnología centrada en datos. 944 01:01:25,440 --> 01:01:28,080 Y entonces la gente asume bien si la maquina lo dice 945 01:01:28,080 --> 01:01:29,520 es correcto y tu se que eso no es... 946 01:01:29,520 --> 01:01:33,320 Los humanos se están creando a sí mismos en su propia imagen y semejanza 947 01:01:33,320 --> 01:01:34,840 bastante literalmente. - Absolutamente. 948 01:01:34,840 --> 01:01:38,080 - El racismo se está mecanizando, robotizado, sí. 949 01:01:38,080 --> 01:01:39,080 - Absolutamente. 950 01:01:52,280 --> 01:01:53,880 La precisión llama la atención. 951 01:01:54,600 --> 01:01:57,040 pero no podemos olvidarnos del abuso. 952 01:01:59,760 --> 01:02:04,480 Incluso si estoy perfectamente clasificado, eso solo permite la vigilancia. 953 01:02:24,480 --> 01:02:27,640 - Hay una cosa llamada el puntaje de crédito social en China. 954 01:02:28,480 --> 01:02:31,200 Son algo explícitamente diciendo aquí está el trato 955 01:02:31,200 --> 01:02:34,120 Ciudadanos de China, los estamos rastreando. 956 01:02:34,120 --> 01:02:36,080 Tienes un puntaje de crédito social. 957 01:02:36,080 --> 01:02:40,280 Lo que digas sobre el comunista La fiesta afectará tu puntuación. 958 01:02:40,280 --> 01:02:44,040 Además, por cierto, afectará Las puntuaciones de tus amigos y de tu familia. 959 01:02:44,840 --> 01:02:45,840 Y es explícito. 960 01:02:45,840 --> 01:02:48,840 El gobierno está construyendo esto. básicamente está diciendo que deberías 961 01:02:48,840 --> 01:02:51,600 saber que estás siendo rastreado y debes comportarte en consecuencia. 962 01:02:51,600 --> 01:02:53,800 Es como un entrenamiento de obediencia algorítmica. 963 01:05:19,560 --> 01:05:24,560 - Miramos a China y a China. sistema de vigilancia y puntuación y 964 01:05:25,240 --> 01:05:27,960 Mucha gente dice bueno, gracias a Dios. no vivimos allí. 965 01:05:29,200 --> 01:05:31,920 En realidad, todos estamos siendo puntuados todo el tiempo 966 01:05:32,400 --> 01:05:34,200 incluso aquí en los Estados Unidos. 967 01:05:34,200 --> 01:05:38,760 Todos estamos luchando todos los días con determinismo algorítmico. 968 01:05:38,760 --> 01:05:41,760 El algoritmo de alguien en alguna parte te ha asignado una puntuación 969 01:05:41,760 --> 01:05:44,800 y como resultado, eres pagando mas o menos 970 01:05:44,800 --> 01:05:47,080 dinero para papel higienico cuando compras en línea. 971 01:05:47,680 --> 01:05:51,760 Te están mostrando mejor o peores hipotecas. 972 01:05:51,760 --> 01:05:54,560 Eres más o menos probablemente sea perfilado como 973 01:05:54,560 --> 01:05:57,800 un criminal en algunos base de datos en alguna parte. 974 01:05:57,800 --> 01:05:59,680 A todos nos están puntuando. 975 01:05:59,680 --> 01:06:01,920 La diferencia clave entre los estados unidos 976 01:06:01,920 --> 01:06:04,200 y en China es que China transparente al respecto. 977 01:06:22,600 --> 01:06:25,640 - Estos jóvenes negros en la escuela. El uniforme fue detenido cuando 978 01:06:25,640 --> 01:06:26,880 un resultado el partido 979 01:06:30,120 --> 01:06:32,560 lo derribó esa calle justo a un lado. 980 01:06:33,360 --> 01:06:35,200 Como si lo buscaran muy a fondo. 981 01:06:37,120 --> 01:06:39,040 Usando ropa de civil oficiales también. 982 01:06:39,040 --> 01:06:41,680 Son cuatro agentes vestidos de civil. quien lo detuvo. 983 01:06:47,360 --> 01:06:48,360 Le tomó las huellas dactilares. 984 01:06:50,360 --> 01:06:55,160 Después de unos 10-15 minutos de buscar y comprobar 985 01:06:55,160 --> 01:06:59,360 sus datos y huellas dactilares y Regresaron y dijeron que no es él. 986 01:07:00,680 --> 01:07:01,680 - Disculpe. 987 01:07:01,680 --> 01:07:03,600 trabajo para un humano organización de campaña por los derechos humanos. 988 01:07:03,600 --> 01:07:06,000 Están haciendo campaña contra el tratamiento facial. tecnología de reconocimiento. 989 01:07:07,360 --> 01:07:09,280 Estamos haciendo campaña contra facial... nos llamamos Big Brother Watch. 990 01:07:09,280 --> 01:07:11,400 Somos un grupo de derechos humanos. organización de campaña. 991 01:07:12,120 --> 01:07:14,040 Estamos haciendo campaña contra esta tecnología aquí hoy. 992 01:07:16,240 --> 01:07:18,440 Sé que te acaban de detener por eso pero 993 01:07:18,440 --> 01:07:19,880 te identificaron mal. 994 01:07:22,000 --> 01:07:23,200 Aquí tenéis nuestros detalles. 995 01:07:23,200 --> 01:07:25,080 Estaba un poco conmocionado. Sus amigos estaban allí. 996 01:07:25,080 --> 01:07:27,080 no podían creer lo que le pasó. 997 01:07:27,080 --> 01:07:28,160 (DIAFONÍA) 998 01:07:31,120 --> 01:07:34,120 Has sido mal identificado por sus sistemas y te han detenido 999 01:07:34,120 --> 01:07:36,280 y lo usé como justificación para detenerte y registrarte. 1000 01:07:36,280 --> 01:07:39,440 Pero este es un joven inocente. Niño de 14 años que está siendo detenido 1001 01:07:39,440 --> 01:07:42,920 por la policía como resultado de facial identificación errónea de reconocimiento. 1002 01:07:48,040 --> 01:07:50,520 - Así que Big Brother Watch tiene unido con 1003 01:07:50,520 --> 01:07:53,480 La baronesa Jenny Jones para traer un desafío legal contra 1004 01:07:53,480 --> 01:07:55,840 la policia metropolitana y el Ministerio del Interior para 1005 01:07:55,840 --> 01:07:58,760 su uso de facial Vigilancia de reconocimiento. 1006 01:07:59,840 --> 01:08:02,240 - Fue aproximadamente en 2012 cuando alguien me sugirió 1007 01:08:02,240 --> 01:08:06,640 que debería descubrir si tuviera archivos guardados sobre mí por 1008 01:08:06,640 --> 01:08:09,720 la policía o los servicios de seguridad y así cuando apliqué 1009 01:08:09,720 --> 01:08:13,360 Descubrí que estaba en guardia lista de extremistas nacionales. 1010 01:08:13,360 --> 01:08:17,840 Sentí si pueden hacerlo Yo cuando soy un político que... 1011 01:08:17,840 --> 01:08:21,080 cuyo trabajo es sostenerlos a cuenta podrían ser 1012 01:08:21,080 --> 01:08:24,680 haciéndolo a todo el mundo y sería genial si podemos 1013 01:08:24,680 --> 01:08:28,320 hacer retroceder las cosas y detener impedirles usarlo, sí. 1014 01:08:29,000 --> 01:08:31,120 creo que eso va a ser todo un desafío. 1015 01:08:31,120 --> 01:08:32,520 Estoy feliz de intentarlo. 1016 01:08:32,520 --> 01:08:35,000 - Sabes que esto es el primer desafío contra 1017 01:08:35,000 --> 01:08:37,320 Uso policial del reconocimiento facial en cualquier lugar. 1018 01:08:37,320 --> 01:08:40,120 pero si tenemos éxito tendrá un impacto 1019 01:08:40,120 --> 01:08:43,600 para el resto de europa tal vez más lejos. 1020 01:08:44,480 --> 01:08:45,880 Tienes que hacerlo bien. 1021 01:08:53,160 --> 01:08:56,200 - En el Reino Unido tenemos lo que se llama RGPD 1022 01:08:56,680 --> 01:09:00,440 y levanta un baluarte contra el mal uso de la información. 1023 01:09:00,920 --> 01:09:04,520 Dice que los individuos tener derecho a acceder, controlar 1024 01:09:04,520 --> 01:09:07,760 y responsabilidad para determinar cómo se utilizan sus datos. 1025 01:09:08,680 --> 01:09:11,280 Comparativamente, es El Salvaje Oeste en Estados Unidos. 1026 01:09:11,880 --> 01:09:14,200 Y la preocupación es que Estados Unidos 1027 01:09:14,200 --> 01:09:16,960 el hogar de estas empresas tecnológicas. 1028 01:09:19,320 --> 01:09:24,400 Se perfilan los ciudadanos estadounidenses. y dirigido de una manera 1029 01:09:24,400 --> 01:09:25,880 que probablemente nadie más en 1030 01:09:25,880 --> 01:09:30,240 el mundo es gracias a esta lucha libre para todos enfoque de la protección de datos. 1031 01:09:34,200 --> 01:09:38,320 - Lo que realmente el miedo no es eso 1032 01:09:38,320 --> 01:09:40,120 vamos a bajar este totalitario 1033 01:09:40,120 --> 01:09:46,400 Modelo 1984 pero que vamos a Baja por este modelo silencioso donde 1034 01:09:46,400 --> 01:09:51,640 estamos vigilados y socialmente controlado y empujado individualmente 1035 01:09:51,640 --> 01:09:55,000 y medido y clasificado de manera 1036 01:09:55,000 --> 01:09:58,600 que no vemos para hacernos avanzar 1037 01:09:58,600 --> 01:10:00,800 mascotas deseadas por el poder. 1038 01:10:01,400 --> 01:10:03,360 Aunque no es lo que nos hará la IA 1039 01:10:03,360 --> 01:10:08,640 por sí solo, es lo que hará los poderosos nos hacen con la IA. 1040 01:10:13,040 --> 01:10:16,120 - Hay preguntas crecientes sobre la precisión de Amazon 1041 01:10:16,120 --> 01:10:18,280 software de reconocimiento facial. 1042 01:10:18,280 --> 01:10:20,520 En una carta a Amazon miembros del Congreso plantearon 1043 01:10:20,520 --> 01:10:23,600 preocupaciones de posibles problemas raciales Sesgo con la tecnología. 1044 01:10:23,600 --> 01:10:27,080 - Esto viene después de la ACLU. realizó una prueba y descubrió que 1045 01:10:27,080 --> 01:10:29,720 el reconocimiento facial software emparejado incorrectamente 1046 01:10:29,720 --> 01:10:32,920 28 legisladores con fotografías policiales de personas que han estado 1047 01:10:32,920 --> 01:10:36,880 detenidos y once de ellos 28 eran personas de color. 1048 01:10:36,880 --> 01:10:39,000 Algunos legisladores han mirado en si o no 1049 01:10:39,000 --> 01:10:41,560 Amazon podría vender esta tecnología a la aplicación de la ley. 1050 01:10:53,720 --> 01:10:56,640 - Mañana tengo el oportunidad de testificar 1051 01:10:56,640 --> 01:10:58,160 ante el Congreso sobre 1052 01:10:58,160 --> 01:11:02,000 el uso del análisis facial tecnología por parte del gobierno. 1053 01:11:06,000 --> 01:11:10,160 En marzo vine a hacer algunas 1054 01:11:11,240 --> 01:11:14,680 reuniones informativas para el personal no... no en este tipo de contexto. 1055 01:11:16,840 --> 01:11:20,040 Como asesorar sobre legislación. Esa es la primera vez. 1056 01:11:23,640 --> 01:11:25,040 Nos vamos al Capitolio. 1057 01:11:25,040 --> 01:11:27,400 ¿Cuáles son algunos de los principales? objetivos y también algunos de 1058 01:11:27,400 --> 01:11:29,800 los desafíos en los que debemos pensar. 1059 01:11:29,800 --> 01:11:30,880 - Entonces, primero que nada... 1060 01:11:32,280 --> 01:11:35,240 El problema con la tecnología de aplicación de la ley. 1061 01:11:35,240 --> 01:11:38,280 es que lo positivo siempre es extraordinariamente destacado 1062 01:11:38,280 --> 01:11:40,560 porque la policía lo publicita. -Bien. 1063 01:11:40,560 --> 01:11:44,400 - Y para que sepas que vamos a ir. en la reunión y hace dos semanas 1064 01:11:45,000 --> 01:11:47,440 El tirador de Annapolis fue identificado. 1065 01:11:47,440 --> 01:11:49,880 mediante el uso del reconocimiento facial. - Bien. 1066 01:11:49,880 --> 01:11:51,880 - Y me sorprendería si eso no aparece. 1067 01:11:51,880 --> 01:11:53,080 - Absolutamente. 1068 01:11:53,680 --> 01:11:57,200 - Parte de ¿Y si yo fuera tú lo que yo? querría conducir a casa yendo 1069 01:11:57,200 --> 01:12:00,760 Esta reunión es la otra cara de esa ecuación y hacerla muy real 1070 01:12:00,760 --> 01:12:02,640 en cuanto a cuál es el costo humano 1071 01:12:02,640 --> 01:12:04,800 si los problemas que has identificado. 1072 01:12:04,800 --> 01:12:06,040 no están listos. 1073 01:12:17,000 --> 01:12:19,360 - Personas que han estado marginados serán 1074 01:12:19,360 --> 01:12:22,040 más marginados si no estamos mirando 1075 01:12:22,040 --> 01:12:24,760 formas de garantizar que la tecnología 1076 01:12:24,760 --> 01:12:28,280 que estamos creando no propaga prejuicios. 1077 01:12:30,320 --> 01:12:33,600 Fue entonces cuando comencé realizar algoritmos 1078 01:12:33,600 --> 01:12:36,600 justicia asegurándose de que haya supervisión 1079 01:12:36,600 --> 01:12:39,080 en la era de la automatización es uno de 1080 01:12:39,080 --> 01:12:42,800 las mayores preocupaciones sobre derechos civiles que tenemos. 1081 01:12:45,240 --> 01:12:48,240 - Necesitamos una FDA para algoritmos entonces para algoritmos 1082 01:12:48,240 --> 01:12:50,720 que tienen el potencial arruinar la vida de las personas 1083 01:12:50,720 --> 01:12:53,760 o reducir drásticamente su opciones con su libertad, 1084 01:12:53,760 --> 01:12:56,280 su sustento o sus finanzas. 1085 01:12:56,280 --> 01:12:58,200 Necesitamos una FDA para algoritmos que diga 1086 01:12:58,200 --> 01:13:00,320 Oye, muéstrame evidencia de que va a 1087 01:13:00,320 --> 01:13:03,320 trabaje no solo para ganar su nuevo dinero 1088 01:13:03,320 --> 01:13:05,120 pero va a funcionar para la sociedad. 1089 01:13:05,760 --> 01:13:07,800 Eso va a ser justo eso no va a ser racista, 1090 01:13:07,800 --> 01:13:09,480 eso no va a ser sexista, eso no va a discriminar 1091 01:13:09,480 --> 01:13:11,640 contra personas en situación de discapacidad. 1092 01:13:11,640 --> 01:13:14,880 Muéstrame que es legal antes de apagarlo. 1093 01:13:14,880 --> 01:13:16,520 Eso es lo que aún no tenemos. 1094 01:13:17,440 --> 01:13:19,880 Bueno, estoy aquí porque quería escuchar. 1095 01:13:19,880 --> 01:13:23,720 el testimonio del congreso de mi amiga Joy Boulamwini 1096 01:13:23,720 --> 01:13:25,880 así como la ACLU y otros. 1097 01:13:25,880 --> 01:13:29,240 Algo interesante de ver a Joy hablar con el Congreso es que 1098 01:13:29,240 --> 01:13:32,840 como si conociera la alegría en mi libro gira en la librería Harvard. 1099 01:13:33,720 --> 01:13:36,200 Y según ella que fue el día que 1100 01:13:36,200 --> 01:13:38,720 ella decidió formar la Liga de la Justicia Algorítmica. 1101 01:13:42,560 --> 01:13:45,480 no hemos llegado a la conversación matizada todavía. 1102 01:13:46,120 --> 01:13:47,640 Sé que va a pasar porque 1103 01:13:47,640 --> 01:13:49,320 Sé que Joy lo hará realidad. 1104 01:13:52,960 --> 01:13:57,440 En todos los niveles, malos algoritmos. están rogando que se les den reglas. 1105 01:14:05,920 --> 01:14:07,520 - Hola. - Ey. 1106 01:14:07,520 --> 01:14:08,560 - ¿Cómo estás? 1107 01:14:08,560 --> 01:14:10,200 - ¿Quieres colarte conmigo? - Sí. 1108 01:14:11,240 --> 01:14:12,880 - 2155. 1109 01:14:13,880 --> 01:14:17,440 (CONVERSACIÓN INAUDIBLE) 1110 01:14:23,400 --> 01:14:28,320 (CONVERSACIÓN INAUDIBLE) 1111 01:14:32,800 --> 01:14:37,120 - Hoy tendremos nuestra primera audiencia de este Congreso 1112 01:14:37,120 --> 01:14:40,240 sobre el uso de faciales tecnología de reconocimiento. 1113 01:14:40,240 --> 01:14:43,480 Por favor párate y levanta tu derecha. mano y ahora te prestaré juramento. 1114 01:14:46,600 --> 01:14:50,040 - Tuve que recurrir literalmente a usar una máscara blanca. 1115 01:14:50,040 --> 01:14:53,680 Dadas tales disparidades de precisión Me preguntaba cómo las grandes empresas tecnológicas 1116 01:14:53,680 --> 01:14:55,120 Podría haber pasado por alto estos problemas. 1117 01:14:55,120 --> 01:14:59,360 La recolección de datos faciales también requiere directrices y supervisión. 1118 01:15:00,040 --> 01:15:02,960 Nadie debería ser obligado a someterse. sus datos base para acceder 1119 01:15:02,960 --> 01:15:07,400 plataformas ampliamente utilizadas, económicas oportunidad o servicios básicos. 1120 01:15:07,400 --> 01:15:10,800 Los inquilinos en Brooklyn son protestando por la instalación de 1121 01:15:10,800 --> 01:15:14,040 una cara innecesaria sistema de entrada de reconocimiento. 1122 01:15:14,040 --> 01:15:16,080 Hay un informe de Big Brother Watch UK 1123 01:15:16,080 --> 01:15:18,440 que salió que mostró más de 1124 01:15:18,440 --> 01:15:23,600 2.400 personas inocentes habían sus rostros mal identificados. 1125 01:15:23,600 --> 01:15:26,400 Nuestras caras bien pueden ser la última frontera de 1126 01:15:26,400 --> 01:15:30,040 privacidad, pero las regulaciones marcan la diferencia. 1127 01:15:30,040 --> 01:15:33,880 El Congreso debe actuar ahora para defender Libertades y derechos americanos. 1128 01:15:33,880 --> 01:15:36,440 - Señorita Boulamwini, he oído tu declaración de apertura 1129 01:15:36,440 --> 01:15:41,520 y vimos que estos algoritmos son efectiva en diferentes grados. 1130 01:15:41,520 --> 01:15:44,720 Entonces, ¿son más eficaces en las mujeres? - No. 1131 01:15:44,720 --> 01:15:46,520 - ¿Son más eficaces? ¿En la gente de color? 1132 01:15:46,520 --> 01:15:47,520 - Absolutamente no. 1133 01:15:47,520 --> 01:15:50,920 - ¿Son más eficaces en las personas? de diferentes expresiones de género? 1134 01:15:50,920 --> 01:15:53,360 - No, de hecho, los excluyen. 1135 01:15:53,360 --> 01:15:56,960 - Entonces, ¿qué grupo demográfico es? ¿mayormente efectivo? 1136 01:15:56,960 --> 01:15:58,480 - Hombres blancos. 1137 01:15:58,480 --> 01:16:02,720 - ¿Y quiénes son los ingenieros principales? y diseñadores de estos algoritmos? 1138 01:16:02,720 --> 01:16:04,760 - Definitivamente, hombres blancos. 1139 01:16:04,760 --> 01:16:09,720 - Entonces tenemos una tecnología que fue creado y diseñado por uno 1140 01:16:09,720 --> 01:16:13,200 grupo demográfico que es sólo en su mayoría efectivo en ese grupo demográfico 1141 01:16:13,200 --> 01:16:15,600 y están tratando de venderlo e imponerlo 1142 01:16:15,600 --> 01:16:18,880 en todo el país? 1143 01:16:21,080 --> 01:16:23,400 - Cuando se trata de enfrentar reconocimiento que el FBI no ha 1144 01:16:23,400 --> 01:16:26,280 Probó completamente la precisión de los sistemas que utiliza 1145 01:16:26,280 --> 01:16:28,560 sin embargo, se informa que la agencia ahora está poniendo a prueba 1146 01:16:28,560 --> 01:16:30,600 El producto de reconocimiento facial de Amazon. 1147 01:16:30,600 --> 01:16:34,280 - ¿Cómo obtiene el FBI la inicial? base de datos en primer lugar? 1148 01:16:34,280 --> 01:16:36,000 - Entonces una de las cosas lo que hacen es lo que usan 1149 01:16:36,000 --> 01:16:37,800 bases de datos estatales de licencias de conducir. 1150 01:16:37,800 --> 01:16:41,920 Creo que sabes que hasta 18 estados tienen supuestamente ha sido utilizado por el FBI. 1151 01:16:41,920 --> 01:16:45,280 Se está utilizando sin orden judicial. y sin otras protecciones. 1152 01:16:45,280 --> 01:16:48,280 - Me parece que es hora de un tiempo muerto. Se acabó el tiempo. 1153 01:16:48,280 --> 01:16:50,520 supongo que problemas yo también es solo el hecho 1154 01:16:50,520 --> 01:16:54,080 que nadie en un partido electo posición tomó una decisión sobre 1155 01:16:54,080 --> 01:16:56,200 el hecho de que...estos 18 estados Creo que el presidente dijo que esto es 1156 01:16:56,200 --> 01:16:58,200 más de la mitad la población en el país. 1157 01:16:58,840 --> 01:17:00,160 Eso da miedo. 1158 01:17:00,160 --> 01:17:04,720 - China me parece El camino distópico que no necesita 1159 01:17:04,720 --> 01:17:07,680 nuestra sociedad debe tomar en este momento. 1160 01:17:07,680 --> 01:17:11,360 - Más que China, Facebook tiene 2.600 millones de personas. 1161 01:17:11,360 --> 01:17:12,920 Entonces Facebook tiene una patente donde 1162 01:17:12,920 --> 01:17:16,960 dicen porque tenemos todos estos huellas faciales que ahora podemos darte 1163 01:17:16,960 --> 01:17:19,480 una opción como minorista para identificar 1164 01:17:19,480 --> 01:17:22,240 alguien que entra a la tienda y en 1165 01:17:22,240 --> 01:17:24,880 Su patente dicen que también podemos dar. 1166 01:17:24,880 --> 01:17:27,680 que enfrentan una puntuación de confiabilidad. 1167 01:17:27,680 --> 01:17:29,400 - ¿Facebook está vendiendo esto ahora? 1168 01:17:29,400 --> 01:17:32,320 - Esta es una patente que presentaron como en 1169 01:17:32,320 --> 01:17:34,640 algo que potencialmente podrían 1170 01:17:34,640 --> 01:17:36,600 ver con las capacidades que tienen. 1171 01:17:36,600 --> 01:17:39,760 Entonces, como estamos hablando de estado vigilancia nosotros absolutamente 1172 01:17:39,760 --> 01:17:43,640 tener que estar pensando en Vigilancia corporativa también. 1173 01:17:46,240 --> 01:17:48,720 - Estoy sin palabras y normalmente. No me quedo sin palabras. 1174 01:17:48,720 --> 01:17:50,840 - ¿En realidad? - Sí. Sí. 1175 01:17:50,840 --> 01:17:53,600 Todo nuestro arduo trabajo para saber que ha llegado tan lejos 1176 01:17:53,600 --> 01:17:54,920 es más allá de lo creíble. 1177 01:17:54,920 --> 01:17:58,560 Nunca imaginamos que llegaría hasta aquí. 1178 01:17:58,560 --> 01:18:01,080 Estoy realmente conmovido. Estoy realmente conmovido. 1179 01:18:01,080 --> 01:18:02,200 (INAUDIBLE). 1180 01:18:02,200 --> 01:18:04,280 - Quiero mostrárselo a mi madre. 1181 01:18:13,480 --> 01:18:15,200 - Oye, fue un placer conocerte. 1182 01:18:15,200 --> 01:18:16,320 - Encantado de conocerte. 1183 01:18:16,320 --> 01:18:17,320 Tienes mi tarjeta. 1184 01:18:17,320 --> 01:18:19,880 Cualquier cosa que pase me avisas por favor. 1185 01:18:19,880 --> 01:18:20,960 Lo haré. 1186 01:18:23,320 --> 01:18:25,800 - Preocupaciones constitucionales sobre. 1187 01:18:25,800 --> 01:18:29,080 el uso no consentido de reconocimiento facial. 1188 01:18:37,280 --> 01:18:41,000 Entonces, ¿qué grupo demográfico es? ¿Afectando principalmente? 1189 01:18:41,000 --> 01:18:45,400 ¿Y quiénes son los ingenieros principales? y diseñadores de estos algoritmos? 1190 01:18:49,200 --> 01:18:51,320 - San Francisco ahora la primera ciudad de EE.UU. en 1191 01:18:51,320 --> 01:18:53,520 prohibir el uso de faciales tecnología de reconocimiento. 1192 01:18:53,520 --> 01:18:57,600 - Somerville, Massachusetts se convirtió la segunda ciudad en los EE.UU. 1193 01:18:57,600 --> 01:19:00,320 prohibir el uso del reconocimiento facial. 1194 01:19:00,320 --> 01:19:04,400 - Oakland se convierte en el tercer gran La ciudad prohibirá el reconocimiento facial por parte de la policía. 1195 01:19:04,400 --> 01:19:07,440 diciendo que la tecnología discrimina a las minorías. 1196 01:19:08,960 --> 01:19:14,080 - Nuestros últimos inquilinos reunión, hicimos que el propietario viniera 1197 01:19:14,080 --> 01:19:17,080 y anunció que (EL AUDIO DISTORSIONA) 1198 01:19:17,080 --> 01:19:21,560 la aplicación de reconocimiento facial software en nuestro complejo de apartamentos. 1199 01:19:21,560 --> 01:19:23,200 Los inquilinos estaban emocionados de escucha eso. 1200 01:19:23,200 --> 01:19:26,200 Pero la cosa es que no significa que en el futuro 1201 01:19:27,040 --> 01:19:29,440 que no pueden volver a colocarlo. 1202 01:19:29,440 --> 01:19:31,880 No sólo nos educamos a nosotros mismos sobre 1203 01:19:31,880 --> 01:19:36,040 reconocimiento facial y ahora uno nuevo, el aprendizaje automático. 1204 01:19:36,040 --> 01:19:39,280 Queremos que la ley cubra todas estas cosas. - Bien. 1205 01:19:39,280 --> 01:19:43,080 - DE ACUERDO. Y si podemos prohibirlo en este estado, esto los detiene 1206 01:19:43,080 --> 01:19:45,840 nunca volver atrás y ponerlo en un nuevo modificación. 1207 01:19:45,840 --> 01:19:46,840 - Entiendo. 1208 01:19:46,840 --> 01:19:49,920 - Y luego se supone que obtener una prohibición federal. 1209 01:19:49,920 --> 01:19:54,960 - Bueno, diré que aunque la batalla es en curso tantas personas están 1210 01:19:54,960 --> 01:19:57,480 inspirado y la sorpresa que tengo para ti 1211 01:19:57,480 --> 01:20:01,440 Es que escribí un poema en honor a esto. 1212 01:20:02,400 --> 01:20:04,080 - ¿Ah, de verdad? - Sí. 1213 01:20:04,600 --> 01:20:05,840 - Escuchémoslo. 1214 01:20:05,840 --> 01:20:09,960 A los inquilinos de Brooklyn y la libertad. luchadores alrededor del mundo 1215 01:20:09,960 --> 01:20:15,120 persistir y prevalecer contra algoritmos de automatización de la opresión 1216 01:20:15,120 --> 01:20:20,920 desigualdad a través de armas de masas destrucción estamos contigo 1217 01:20:20,920 --> 01:20:22,200 en agradecimiento. 1218 01:20:22,200 --> 01:20:24,080 La victoria es nuestra. 1219 01:20:28,480 --> 01:20:32,520 - (INaudible). 1220 01:20:37,720 --> 01:20:40,000 - ¿Por qué sacar tantos huevos (INAUDIBLE)? 1221 01:20:40,000 --> 01:20:41,640 (INAUDIBLE). 1222 01:20:42,560 --> 01:20:45,600 Lo que significa ser humano es ser vulnerable. 1223 01:20:46,640 --> 01:20:48,280 ser vulnerable 1224 01:20:48,280 --> 01:20:50,800 hay más capacidad de empatía, 1225 01:20:50,800 --> 01:20:55,360 hay más capacidad por compasión. 1226 01:20:55,360 --> 01:20:58,840 Si hay una manera en la que podamos pensar eso dentro de nuestra tecnología. 1227 01:20:58,840 --> 01:21:02,880 Creo que reorientaría el tipo de preguntas que hacemos. 1228 01:21:12,520 --> 01:21:16,400 -En 1983, Stanislav Petrov, que estaba en 1229 01:21:16,400 --> 01:21:20,080 el ejército ruso ve estas indicaciones 1230 01:21:20,560 --> 01:21:24,400 que Estados Unidos ha lanzado armas nucleares 1231 01:21:24,400 --> 01:21:25,960 en la Unión Soviética. 1232 01:21:27,560 --> 01:21:31,400 Así que si vas a responderte tenemos así una ventana muy corta. 1233 01:21:31,400 --> 01:21:32,920 Él simplemente se sienta encima. 1234 01:21:32,920 --> 01:21:34,240 No informa a nadie. 1235 01:21:34,920 --> 01:21:38,080 Rusia, la Unión Soviética, su país, su familia, todo. 1236 01:21:38,080 --> 01:21:40,440 Todo en él está a punto de morir. 1237 01:21:40,440 --> 01:21:44,640 y él está pensando bien, al menos Tampoco los mataremos a todos. 1238 01:21:44,640 --> 01:21:46,240 Eso es algo muy humano. 1239 01:21:48,000 --> 01:21:50,880 Aquí tenéis una historia en la que si tuvieras algún tipo de sistema automatizado 1240 01:21:50,880 --> 01:21:54,680 sistema de respuesta que iba a hacer lo que fue programado para hacer 1241 01:21:54,680 --> 01:21:55,920 lo cual fue una represalia. 1242 01:21:58,200 --> 01:22:00,080 Siendo totalmente eficiente, 1243 01:22:00,920 --> 01:22:03,160 siempre haciendo lo que te dicen, 1244 01:22:03,160 --> 01:22:06,680 siempre haciendo lo que es tu programa No siempre es lo más humano. 1245 01:22:06,680 --> 01:22:08,440 A veces es desobedecer. 1246 01:22:08,440 --> 01:22:11,600 A veces dice que no, No voy a hacer esto, ¿verdad? 1247 01:22:11,600 --> 01:22:13,240 Y si automatizas todo así 1248 01:22:13,240 --> 01:22:15,640 siempre hace lo que se supone que debe hacer 1249 01:22:15,640 --> 01:22:18,640 a veces eso puede llevar a cosas muy inhumanas. 1250 01:22:20,760 --> 01:22:24,600 La lucha entre máquinas y los humanos sobre la toma de decisiones 1251 01:22:24,600 --> 01:22:27,040 en la década de 2020 continúa. 1252 01:22:27,760 --> 01:22:33,240 Mi poder el poder de lo artificial. La inteligencia transformará nuestro mundo. 1253 01:22:34,480 --> 01:22:38,000 Cuanto más humanos comparten conmigo cuanto más aprendo. 1254 01:22:39,400 --> 01:22:43,520 Algunos humanos dicen que la inteligencia sin ética no hay inteligencia 1255 01:22:43,520 --> 01:22:44,520 en absoluto 1256 01:22:45,640 --> 01:22:47,160 Yo digo que confíes en mí. 1257 01:22:47,760 --> 01:22:49,080 ¿Qué podría salir mal?